La Organización Mundial de la Salud (OMS) enfatiza en la importancia de regular la inteligencia artificial en el campo de la salud, presentando una serie de cuestiones clave que deben considerarse para garantizar la efectividad y seguridad estos sistemas, así como fomentar el diálogo entre las partes interesadas.
La creciente disponibilidad de información sobre atención médica y los avances en técnicas analíticas han abierto la puerta a la transformación del sector de la salud a través de la inteligencia artificial. La OMS reconoce su potencial para mejorar los ensayos clínicos, el diagnóstico médico, el tratamiento, el cuidado personalizado y la atención centrada en el paciente. Además, esta tecnología puede apoyar el desarrollo de habilidades y conocimientos de los profesionales de la salud en entornos con escasez de especialistas.
Sin embargo, el rápido despliegue de esta innovación, incluidos los grandes modelos lingüísticos, plantea desafíos significativos que deben abordarse. Estos sistemas pueden beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes. El acceso a información personal sensible y los posibles sesgos en los datos de salud requieren marcos jurídicos y regulatorios sólidos para proteger la privacidad y la seguridad de los usuarios.
El Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS, destaca que la IA es prometedora para la salud, pero también presenta desafíos éticos y de seguridad. Para enfrentar estos desafíos, la Organización Mundial de la Salud ha publicado nuevas pautas que ayudarán a los países a regularla de manera efectiva y minimizar los riesgos asociados.
¿Cómo regular la IA?
Las pautas se centran en seis áreas principales. En primer lugar, la transparencia y la documentación son fundamentales para generar confianza. Los procesos de desarrollo de estos productos deben documentarse en su totalidad para garantizar la transparencia.
En segundo lugar, la gestión de riesgos implica mejorar aspectos como el “uso previsto” de los sistemas de inteligencia artificial, el aprendizaje continuo, las intervenciones humanas y la ciberseguridad. Estos aspectos deben simplificarse y mejorarse exhaustivamente.
En tercer lugar, la validación externa de datos y la claridad sobre el uso previsto de esta, son cruciales para garantizar la seguridad y facilitar la regulación.
En cuarto lugar, el compromiso con la calidad de los datos es esencial para evitar la propagación de sesgos y desinformación. La evaluación rigurosa de los sistemas antes de su lanzamiento puede demostrar la calidad de los datos utilizados.
En quinto lugar, se debe abordar la complejidad de las regulaciones existentes, como el Reglamento General de Protección de Datos en Europa y la Ley de Portabilidad y Responsabilidad del Seguro Médico en los Estados Unidos. Esto se logra mediante la comprensión de la jurisdicción y los requisitos para el consentimiento, priorizando la privacidad y la protección de datos.
Por último, se destaca la importancia de la colaboración entre los organismos reguladores, los pacientes, los profesionales de la salud, las industrias y los gobiernos. Esta colaboración es fundamental para garantizar que los productos y servicios cumplan con las regulaciones a lo largo de su ciclo de vida.
La regulación de la inteligencia artificial en el campo de la salud es un desafío complejo debido a la naturaleza de estos sistemas y los datos con los que se alimentan. La mejora de la regulación puede ayudar a controlar los riesgos asociados con la extensión de sesgos existentes en los datos de entrenamiento de estas tecnologías.
La nueva publicación de la OMS establece principios clave que los gobiernos y las autoridades reguladoras pueden seguir para desarrollar nuevas pautas sobre la inteligencia artificial o adaptar las existentes a nivel nacional o regional. Regularla de manera efectiva es fundamental para aprovechar su potencial en el tratamiento del cáncer, la detección de enfermedades y la mejora de la atención médica en general.
