La inteligencia artificial en salud en Colombia podría contar con un marco regulatorio especializado que establezca obligaciones para desarrolladores, proveedores, instituciones prestadoras de servicios de salud y demás actores que utilicen estas tecnologías. Un Proyecto de Ley del Senado, presentado por la senadora Nadia Blel Scaff, propone regular la implementación de sistemas de inteligencia artificial (IA) mediante una clasificación por niveles de riesgo, mecanismos de validación clínica, supervisión humana obligatoria y controles sobre el tratamiento de datos sensibles.

La iniciativa establece un régimen específico para aplicaciones de IA utilizadas en diagnóstico, tratamiento, investigación, gestión hospitalaria, vigilancia epidemiológica y procesos administrativos. Su enfoque combina seguridad del paciente, responsabilidad profesional, protección de información clínica y vigilancia sanitaria. El articulado contempla 70 artículos distribuidos en 12 títulos y plantea responsabilidades diferenciadas según las características, finalidad y riesgos de cada sistema.

Inteligencia artificial en salud: cuatro niveles de riesgo determinarían las obligaciones regulatorias

Uno de los componentes centrales del proyecto es la clasificación de los sistemas de inteligencia artificial en cuatro categorías: riesgo mínimo, limitado, alto y crítico. Según el artículo 15, esta clasificación consideraría la finalidad, autonomía, población involucrada, severidad del daño, reversibilidad de los efectos y capacidad de supervisión.

La propuesta establece obligaciones proporcionales al riesgo identificado, con requisitos más exigentes para tecnologías capaces de producir consecuencias clínicas significativas.

Los sistemas considerados de alto riesgo incluirían herramientas que determinen el acceso o cobertura de servicios, apoyen decisiones terapéuticas o participen en procedimientos clínicos mediante componentes robóticos. Por su parte, los sistemas críticos comprenderían tecnologías cuyo fallo o uso indebido pudiera ocasionar muerte, daño grave o afectación masiva, particularmente cuando exista una elevada autonomía en decisiones asistenciales.

Supervisión humana obligatoria y restricciones a las decisiones clínicas automatizadas

El proyecto establece que la inteligencia artificial tendría una función de apoyo y consulta, sin reemplazar automáticamente el juicio clínico ni constituir una decisión autónoma equivalente a la valoración profesional. El artículo 8 dispone que el profesional de salud conservaría la facultad y el deber de aceptar, controvertir o apartarse de las recomendaciones algorítmicas por razones clínicas, científicas, éticas, bioéticas o contextuales.

Asimismo, contempla el derecho del paciente a solicitar una revisión humana cuando una decisión exclusivamente automatizada produzca efectos jurídicos o clínicos significativos. Entre las prácticas prohibidas figuran la adopción de decisiones clínicas sin revisión humana, la discriminación algorítmica injustificada, la utilización de datos de salud para publicidad contractual incompatible y la presentación de recomendaciones automatizadas como si provinieran de profesionales reales.

La propuesta también prohíbe que robots clínicos ejecuten autónomamente procedimientos diagnósticos, quirúrgicos o terapéuticos sobre seres humanos sin supervisión directa y continua de un médico especialista competente.

Validación clínica, registro nacional y vigilancia de sistemas de IA

La iniciativa además, propone incorporar requisitos durante el ciclo de vida de las tecnologías, desde su desarrollo y validación hasta su implementación, monitoreo y eventual retiro. Para los sistemas de alto y crítico riesgo se exigirían documentación técnica, gestión de riesgos, evidencia clínica, evaluaciones de sesgos, ciberseguridad, supervisión humana y mecanismos para reportar incidentes.

El artículo 26 contempla la creación del Registro Nacional de Sistemas de Inteligencia Artificial en Salud, administrado por el Ministerio de Salud y Protección Social o por la entidad que este designe. En este registro deberán inscribirse los sistemas clasificados como de alto o crítico riesgo, con información sobre sus responsables, finalidad, población objetivo, nivel de riesgo y mecanismos de seguridad.

El articulado también contempla evaluaciones institucionales previas a la adquisición o utilización de estas tecnologías. Las EPS y las IPS deberán verificar aspectos como pertinencia, autorización, evidencia, capacidad operativa, interoperabilidad y preparación institucional. En materia de vigilancia, el Ministerio de Salud ejercería la rectoría de la política nacional, mientras que el Invima y la Superintendencia Nacional de Salud desarrollarían funciones de inspección, vigilancia y control dentro de sus competencias.

Protección de datos clínicos, interoperabilidad y contenidos generados por IA

El proyecto incorpora disposiciones sobre gobernanza de datos clínicos, trazabilidad, protección de información sensible e interoperabilidad. Los sistemas deberán favorecer estándares abiertos, integridad de los datos y mecanismos seguros para intercambiar información entre historias clínicas electrónicas, dispositivos médicos y plataformas institucionales.

Para la inteligencia artificial generativa se establecen controles específicos sobre la producción de historias clínicas, informes, recomendaciones y otros contenidos asistenciales. El artículo 40 exige verificación humana de los resultados generados, mientras que las disposiciones siguientes incluyen medidas para identificar contenidos sintéticos, prevenir falsificaciones médicas y garantizar la conservación del material original.

El proyecto también contempla controles sobre los denominados deepfakes médicos, la manipulación de imágenes diagnósticas y la modificación de documentos clínicos mediante herramientas generativas.

¿Qué obligaciones tendrían las EPS, IPS y proveedores de inteligencia artificial?

La propuesta distribuye responsabilidades entre proveedores, importadores, implementadores, operadores y demás participantes. Los proveedores tendrían obligaciones relacionadas con el diseño seguro, la documentación técnica, la vigilancia posterior a la comercialización y la gestión de incidentes.

Los implementadores, incluidas las instituciones de salud, deberían verificar la pertinencia de los sistemas, establecer mecanismos de gobernanza, capacitar al personal, garantizar supervisión humana y mantener procedimientos de respuesta ante fallos.

Para las instituciones prestadoras, estas exigencias implicarían incorporar controles tecnológicos y clínicos a los procesos de adquisición, evaluación y utilización de herramientas de inteligencia artificial. El proyecto también contempla disposiciones sobre responsabilidad por daños, auditorías, garantías y mecanismos de reparación, atendiendo al papel y al control efectivo que cada participante tenga sobre el sistema.

¿Cuándo entrarían en vigor las nuevas reglas para la inteligencia artificial en salud?

El artículo 70 establece que la eventual ley regiría desde su publicación. No obstante, el proyecto contempla periodos para desarrollar la reglamentación y facilitar la adaptación institucional. El Gobierno nacional tendría hasta 12 meses para reglamentar la norma, mientras que los responsables de sistemas de alto o crítico riesgo que ya estuvieran en operación contarían con un plazo máximo de 18 meses para acreditar progresivamente el cumplimiento de las obligaciones de registro. La iniciativa también prevé informes periódicos al Congreso sobre implementación, seguridad, equidad, incidentes y resultados de las medidas regulatorias.

Este proyecto, constituye una propuesta legislativa y sus disposiciones todavía no representan obligaciones legales vigentes por efecto de esta iniciativa. Su eventual aprobación introduciría un régimen especializado para la inteligencia artificial en salud, con implicaciones sobre la selección de tecnologías, la responsabilidad clínica, la seguridad del paciente y las capacidades institucionales de vigilancia.

Para el sector, el debate legislativo plantea cómo integrar herramientas algorítmicas a la prestación de servicios sin debilitar la autonomía profesional, la calidad asistencial ni la protección de los derechos de los pacientes.

Consulte y descargue el Proyecto de Ley aquí: