La Organización Mundial de la Salud (OMS) ha lanzado una guía revolucionaria que aborda la ética y la gobernanza de los grandes modelos multimodales (LMM) de inteligencia artificial (IA). Estos modelos, que están experimentando un rápido crecimiento, tienen aplicaciones en diversos ámbitos de la atención médica.
La guía de la OMS presenta más de 40 recomendaciones destinadas a gobiernos, empresas de tecnología y proveedores de atención médica, con el objetivo de garantizar el uso adecuado de los LMM para promover y proteger la salud de las poblaciones.
Estos tienen la capacidad de procesar diferentes tipos de datos, como texto, vídeos e imágenes, y generar resultados diversos que no se limitan al tipo de datos de entrada. Son únicos en su capacidad para imitar la comunicación humana y realizar tareas para las que no fueron explícitamente programados. Su adopción ha sido más rápida que cualquier otra aplicación de consumo en la historia, y plataformas como ChatGPT, Bard y Bert ganarán popularidad en 2023.
El Dr. Jeremy Farrar, científico jefe de la OMS, destacó que las tecnologías de IA generativa tienen el potencial de mejorar la atención médica, pero solo si se gestionan adecuadamente los riesgos asociados. Es fundamental contar con información transparente y políticas que regulen el diseño, desarrollo y uso de estos modelos, para lograr mejores resultados de salud y superar las desigualdades en la atención médica.
Beneficios y riesgos de los LMM
La guía de la OMS también analiza los beneficios y riesgos potenciales de los LMM en la salud. Se describen cinco aplicaciones amplias en el ámbito de la salud, como el diagnóstico y la atención clínica, el uso guiado por el paciente, tareas administrativas y de oficina, educación médica y de enfermería, y la investigación científica y el desarrollo de fármacos.
Sin embargo, también se señalan los riesgos documentados, como la generación de información falsa, inexacta, sesgada o incompleta, que podría perjudicar a las personas que toman decisiones de salud basadas en esa información. Además, existe la posibilidad de entrenar los LMM con datos de baja calidad o sesgados, lo que puede tener implicaciones negativas en términos de raza, etnia, sexo e identidad de género o edad.
La guía también destaca riesgos más amplios para los sistemas de salud, como la accesibilidad y asequibilidad de los LMM más avanzados. Existe el peligro de un “sesgo de automatización” por parte de los profesionales de la salud y los pacientes, donde se pasan por alto errores que de otra manera se habrían identificado, o se delegan decisiones difíciles de manera inapropiada a los LMM. Además, estos modelos también están expuestos a riesgos de ciberseguridad que podrían comprometer la información del paciente y la confiabilidad de los algoritmos utilizados en la atención médica en general.
La OMS enfatiza la necesidad de la participación de diversas partes interesadas, como gobiernos, empresas de tecnología, proveedores de atención médica, pacientes y la sociedad civil, en todas las etapas del desarrollo y despliegue de los LMM. Esto incluye su supervisión y regulación.
Recomendaciones de la OMS
La guía de la OMS también presenta recomendaciones clave para los gobiernos, instándolos a invertir en infraestructura pública o sin fines de lucro, establecer leyes y regulaciones que garanticen el cumplimiento de estándares éticos y de derechos humanos, asignar agencias reguladoras para evaluar y aprobar los LMM, e implementar auditorías y evaluaciones de impacto posteriores a la liberación de estos modelos.
Además, la guía hace hincapié en la importancia de la participación de los usuarios y todas las partes interesadas en el desarrollo de estos modelos, así como en el diseño de tareas bien definidas y en la predicción y comprensión de posibles resultados secundarios por parte de los desarrolladores.
Descargue la guía completa acá
