¿Cómo aplicar la inteligencia artificial de forma segura en la atención médica?: nuevas recomendaciones

A medida que la inteligencia artificial (IA) se integra cada vez más en el ámbito de la atención médica, resulta fundamental que tanto las organizaciones como los profesionales de la salud adopten medidas que aseguren su implementación y utilización segura en contextos clínicos reales. Esta es la recomendación de una guía elaborada conjuntamente por Dean Sittig, Ph.D., profesor de la Escuela McWilliams de Informática Biomédica de UTHealth Houston, y Hardeep Singh, MD, MPH, profesor de la Facultad de Medicina de Baylor y publicada en Journal of the American Medical Association.

Por su parte Sittig señaló que “A menudo oímos hablar de la necesidad de que la IA se desarrolle de forma segura, pero no de cómo utilizarla de forma segura en los entornos sanitarios.  “Es una herramienta que tiene el potencial de revolucionar la atención médica , pero sin salvaguardas, la IA podría generar resultados falsos o engañosos que podrían perjudicar a los pacientes si no se controla”.

Desde estas opiniones de expertos, revisiones bibliográficas y experiencias con el uso de TI en salud, Sittig y Singh desarrollaron un enfoque pragmático para que las organizaciones de atención médica y los médicos monitoreen y gestionen los sistemas de IA.

Al respecto señaló que “las organizaciones que prestan servicios de atención médica deberán implementar sistemas de gobernanza sólidos y procesos de prueba a nivel local para garantizar una IA y un uso seguro, de modo que, en última instancia, la IA pueda utilizarse para mejorar la seguridad de la atención médica y los resultados de los pacientes. Todas las organizaciones que prestan servicios de atención médica deberían consultar estas recomendaciones y comenzar a prepararse de manera proactiva para la IA ahora”.

Recomendaciones clave para la manipulación de inteligencia artificial

A continuación, se presentan algunas recomendaciones para las organizaciones de atención médica:

1. Revisar las guías publicadas en revistas académicas de alta calidad y realizar pruebas exhaustivas en entornos reales para verificar la seguridad y eficacia de los sistemas de inteligencia artificial (IA).
2. Establecer comités especializados conformados por expertos multidisciplinarios para supervisar la implementación de sistemas de IA y asegurar el cumplimiento de los protocolos de seguridad. Los comités deberán reunirse periódicamente para evaluar nuevas aplicaciones de IA, analizar su seguridad y eficacia antes de su implementación, y desarrollar procesos para monitorear su desempeño.
3. Proporcionar capacitación formal a los médicos sobre el uso y los riesgos asociados con la IA, y mantener una comunicación transparente con los pacientes cuando la IA forme parte de sus decisiones de atención médica. Esta transparencia es fundamental para fomentar la confianza en el uso de la IA en la atención sanitaria.
4. Mantener un inventario detallado de los sistemas de IA utilizados y evaluarlos de forma periódica para identificar y mitigar posibles riesgos.
5. Desarrollar procedimientos que permitan desactivar los sistemas de IA en caso de que presenten fallas, garantizando una transición fluida hacia procesos manuales y evitando interrupciones en la atención médica.