Guía sobre ética y gobernanza de la IA para grandes modelos multimodales LMM: OMS

Guía sobre ética y gobernanza de la IA para grandes modelos multimodales LMM: OMS
[favorite_button]
Comentar

La Organización Mundial de la Salud (OMS) ha lanzado una guía revolucionaria que aborda la ética y la gobernanza de los grandes modelos multimodales (LMM) de inteligencia artificial (IA). Estos modelos, que están experimentando un rápido crecimiento, tienen aplicaciones en diversos ámbitos de la atención médica.

La guía de la OMS presenta más de 40 recomendaciones destinadas a gobiernos, empresas de tecnología y proveedores de atención médica, con el objetivo de garantizar el uso adecuado de los LMM para promover y proteger la salud de las poblaciones.

Estos tienen la capacidad de procesar diferentes tipos de datos, como texto, vídeos e imágenes, y generar resultados diversos que no se limitan al tipo de datos de entrada. Son únicos en su capacidad para imitar la comunicación humana y realizar tareas para las que no fueron explícitamente programados. Su adopción ha sido más rápida que cualquier otra aplicación de consumo en la historia, y plataformas como ChatGPT, Bard y Bert ganarán popularidad en 2023.

El Dr. Jeremy Farrar, científico jefe de la OMS, destacó que las tecnologías de IA generativa tienen el potencial de mejorar la atención médica, pero solo si se gestionan adecuadamente los riesgos asociados. Es fundamental contar con información transparente y políticas que regulen el diseño, desarrollo y uso de estos modelos, para lograr mejores resultados de salud y superar las desigualdades en la atención médica.

Beneficios y riesgos de los LMM

La guía de la OMS también analiza los beneficios y riesgos potenciales de los LMM en la salud. Se describen cinco aplicaciones amplias en el ámbito de la salud, como el diagnóstico y la atención clínica, el uso guiado por el paciente, tareas administrativas y de oficina, educación médica y de enfermería, y la investigación científica y el desarrollo de fármacos.

Sin embargo, también se señalan los riesgos documentados, como la generación de información falsa, inexacta, sesgada o incompleta, que podría perjudicar a las personas que toman decisiones de salud basadas en esa información. Además, existe la posibilidad de entrenar los LMM con datos de baja calidad o sesgados, lo que puede tener implicaciones negativas en términos de raza, etnia, sexo e identidad de género o edad.

La guía también destaca riesgos más amplios para los sistemas de salud, como la accesibilidad y asequibilidad de los LMM más avanzados. Existe el peligro de un “sesgo de automatización” por parte de los profesionales de la salud y los pacientes, donde se pasan por alto errores que de otra manera se habrían identificado, o se delegan decisiones difíciles de manera inapropiada a los LMM. Además, estos modelos también están expuestos a riesgos de ciberseguridad que podrían comprometer la información del paciente y la confiabilidad de los algoritmos utilizados en la atención médica en general.

La OMS enfatiza la necesidad de la participación de diversas partes interesadas, como gobiernos, empresas de tecnología, proveedores de atención médica, pacientes y la sociedad civil, en todas las etapas del desarrollo y despliegue de los LMM. Esto incluye su supervisión y regulación.

Recomendaciones de la OMS

La guía de la OMS también presenta recomendaciones clave para los gobiernos, instándolos a invertir en infraestructura pública o sin fines de lucro, establecer leyes y regulaciones que garanticen el cumplimiento de estándares éticos y de derechos humanos, asignar agencias reguladoras para evaluar y aprobar los LMM, e implementar auditorías y evaluaciones de impacto posteriores a la liberación de estos modelos.

Además, la guía hace hincapié en la importancia de la participación de los usuarios y todas las partes interesadas en el desarrollo de estos modelos, así como en el diseño de tareas bien definidas y en la predicción y comprensión de posibles resultados secundarios por parte de los desarrolladores.

Descargue la guía completa acá

Temas relacionados

Compartir Noticia

Facebook
Twitter
LinkedIn
WhatsApp
Noticias destacadas
Más Noticias

Escríbanos y uno de nuestros asesores le contactará pronto

Reciba atención inmediata mediante nuestros canales oficiales aquí:

Preinscríbete y recibe información ampliada
XIX Congreso Nacional de Salud

* Todos los campos son requeridos

Días
Horas
Min.
Seg.
Tu carrito de compras está vacío.

Volver a la tienda

¡Gracias por su información!

El formulario ha sido enviado exitosamente, por favor verifique su bandeja de correo electrónico, enviaremos información ampliada sobre el XIX Congreso Nacional de Salud.

Pronto uno de nuestros asesores te contactará.