En el Senado de la República se radicó un proyecto de ley, cuyo propósito es emitir los lineamientos de uso de la inteligencia artificial (IA) en el país o el desarrollo de estas herramientas tecnológicas. El documento también presenta la política pública en diferentes ámbitos, priorizando la inteligencia humana.
En esta iniciativa, la inteligencia artificial se entenderá como la “disciplina científica que se encarga de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje y el razonamiento lógico”. Sin embargo, sus decisiones son auditables, revisables o controvertibles por los seres humanos.
De igual manera, los lineamientos en la materia establecen que, las políticas para la utilización de la tecnología tendrán como propósito la preservación del ser humano así como su entorno ambiental. Así, deberá usarse para la detección temprana de epidemias, diagnósticos de salubridad y desarrollo de medicamentos. “Los desarrollos de IA podrán ser declarados de utilidad pública e interés nacional”.
Se crearía la Comisión de Tratamiento de Datos y Desarrollos con Inteligencia Artificial
Como parte de los lineamientos, se propone instaurar la Comisión de Tratamiento de Datos y Desarrollos con Inteligencia Artificial, cuyas funciones, entre otras, serían las siguientes:
- Proponer iniciativas tecnológicas de Inteligencia Artificial para el desarrollo económico, social y ambiental.
- Avalar las solicitudes institucionales sobre desarrollos e implementación de la IA en el territorio nacional.
- Proponer iniciativas tecnológicas de inteligencia artificial en la gestión pública.
- Proyectar y divulgar los reglamentos técnicos para el uso, desarrollo e implementación de la inteligencia artificial en el país.
La entidad estará conformada por el ministro de Ciencia, Tecnología e Innovación, el ministro TIC, el procurador general, el director del Departamento Administrativo de Planeación Nacional, un representante de las universidades con acreditación en alta calidad y acreditación institucional internacional.
Inteligencia artificial operará bajo el principio de diseño seguro y otros aspectos de seguridad
El proyecto de ley presenta la Política para la robustez, seguridad y protección frente al uso de la inteligencia artificial. En ese sentido, las políticas nacionales y locales tendrán que garantizar que los sistemas vinculados a esta tecnología tendrán dirección, supervisión, auditoría y control de la inteligencia humana capacitada y responsable. En cualquier caso, antes de la implementación de IA tendrán que llevar a cabo pruebas previas que garanticen la previsión de riesgos y no generación de daños.
En lo que respecta a la seguridad de la información, las instituciones, entidades y demás involucrados en las políticas nacionales deberán propender por las garantías del derecho a la intimidad y privacidad de las personas. Esto estará a cargo de los encargados del uso, desarrollo e implementación de la IA en diferentes áreas; incluyendo a la ciberseguridad. En este caso, los asuntos que involucren este aspecto deberán ser avalados por la Comisión de Tratamiento de Datos y Desarrollos con Inteligencia Artificial.
Asimismo, los encargados nacionales o locales del uso, desarrollo e implementación de la IA estarán obligados a ejecutar controles sobre la veracidad de los datos obtenidos con esta tecnología, así como sobre los resultados que arrojen los sistemas.
Sobre el uso de datos, explicación y transparencia de los sistemas con IA
Uno de los puntos más relevantes del proyecto de ley es el manejo de la información obtenida con IA. Para ello, los encargados estarán encargados de informar expresamente a los titulares de los datos usados, el tratamiento que se da y los resultados, bajo los siguientes parámetros:
- Los responsables del uso y desarrollo de inteligencia artificial deberán informar a los titulares que sus datos están interactuando con un sistema de IA, así como la manera en que se llevan a cabo dichos intercambios.
- Los titulares y herederos de los datos adquieren el derecho irrenunciable a eliminar el dato en cualquier momento. Los responsables del manejo de la información deberán borrarlo dentro de los 5 días hábiles, contados desde que el titular presenta la solicitud.
“Las políticas del orden nacional o local deberán establecer que los responsables del uso, desarrollo e implementación de la IA tienen la obligación de garantizar que se conocen las causas que dan lugar a las decisiones, resultados o predicciones de los algoritmos obtenidos por la inteligencia humana”.
Conozca el documento completo, radicado en el Senado, a continuación. Recuerde que es de libre descarga:
