Tras el auge de la inteligencia artificial que hoy en día desempeña un papel fundamental en la trasformación de diferentes industrias, la Organización Mundial de la Salud (OMS) ha dado a conocer un nuevo informe que presenta varias regulaciones que se deben tener en cuenta para controlar el uso de inteligencia artificial para la salud. Esta publicación destaca la importancia de establecer la efectividad y seguridad de los sistemas de IA, así como el diálogo entre las partes interesadas, incluidos los desarrolladores, reguladores, fabricantes, pacientes y trabajadores del sector de la salud.
Ante el aumento de la disponibilidad de información sobre atención médica y los avances en técnicas analíticas, la IA podrían ser una alternativa para transformar el sector de la salud. De hecho, la OMS reconoce el potencial de estas herramientas tecnológicas para el fortalecimiento de los ensayos clínicos, el diagnóstico médico, los tratamientos y el cuidado personas. También resalta su capacidad para sustentar la falta de médico especialistas, ya sea para interpretar escáneres retinales o imágenes radiológicas.
Sin embargo, estas tecnologías IA se están desplegando de forma rápida a nivel mundial sin tener una compresión de su funcionamiento, entendido de cierto modo que podría beneficiar o perjudicar a los usuarios finales, entre ellos, profesionales de la salud y pacientes. La OMS menciona que, al utilizar datos de la salud, dichos sistemas inteligentes podrían tener acceso a información personal sensible, por lo que es importante establecer marcos jurídicos y regulatorios para proteger la seguridad, integridad y privacidad de los pacientes.
Por su parte, el doctor Tedros Adhanom Ghebreyesus, director general de la OMS afirma que «la inteligencia artificial resulta muy prometedora para la salud, pero también presenta retos importantes, lo que incluye la recopilación de datos no ética, las amenazas a la ciberseguridad y el aumento de los sesgos y la desinformación”.
OMS: regulación responsable de IA para el sector de la salud
Para regular la necesidad de usos de estas herramientas tecnológicas de inteligencia artificial, la OMS ha destaco seis áreas en su publicación, las cuales los países debe tener en cuenta para abordar temas de salud:
- En primer lugar, la OMS resalta la importancia de la transparencia y la documentación de las IA. Esto hace referencia a la documentación del ciclo completo de vida del producto que se vaya a adquirir y el registro de los procesos de su desarrollo, con el fin de conocer a fondo su composición tecnológica y alcances. Para este punto, la colaboración entre reguladores, desarrolladores y fabricantes es clave para desarrollar una comprensión compartida de los procedimientos necesarios para la documentación transparente y para garantizar que las decisiones sean científicamente sólidas.
- Para la gestión de riesgos, el documento señala que hay cuestiones como el ‘uso previsto’, ‘aprendizaje continuo’, intervenciones humanas, modelos de entrenamiento y las amenazas de seguridad que se deben mejorar de forma exhaustiva, así como simplificarse como sea posible. Además, se destaca la importancia de un enfoque holístico de gestión de riesgos que aborde las amenazas de ciberseguridad y vulnerabilidades del sistema a lo largo del ciclo de vida completo del producto.
Este punto tiene como objetivo presentar un enfoque integral basado en riesgos para los sistemas de IA en general, y en particular para aquellos utilizados como dispositivos médicos, durante todo su ciclo de vida, incluyendo las fases de pre y post-implementación en el mercado.
- Es fundamental evaluar si el uso del sistema de IA es seguro, es decir que no causará daño al usuario, al paciente u otras personas y en lo posible verificar las afirmaciones hechas sobre su rendimiento. Según la OMS, la evaluación de estas afirmaciones para los sistemas de IA requiere una descripción clara del caso de uso, la demostración de validación analítica y clínica, y la evaluación del potencial de sesgo o discriminación en el sistema de IA.
- Frente a la calidad de los datos que arroja la IA, es claro mencionar que estos son el ingrediente más importante para entrenar algoritmos de IA/aprendizaje automático (ML) y pueden clasificarse según su formato, estructura, volumen y muchos otros factores. De esta manera, la información se puede adoptar en diversas formas, como caracteres, texto, palabras, números, imágenes, sonido o video, y también pueden ser estructurados, semiestructurados o no estructurados. Para evaluarlos, se fundamental hace una revisión rigurosa con antelación, para asegurarse de que los sistemas no extiendan los sesgos y la promuevan la desinformación.
- La Estrategia Mundial de la OMS sobre Salud Digital 2020-2025 clasifica los datos de salud como datos personales sensibles o información personal identificable que requiere un alto estándar de seguridad. De este modo, se destaca la necesidad de un sólido marco legal y regulatorio para proteger la privacidad, confidencialidad, integridad, disponibilidad y procesamiento de los datos personales de salud.
- La OMS promueve la colaboración entre los organismos reguladores, pacientes, profesionales de la salud, representantes de las industrias y asociados para ayudar asegurarse de que los productos y servicios cumplan las regulaciones.
