La Asociación para el Avance de la Instrumentación Médica (AAMI) publicó un nuevo informe sobre el uso de la inteligencia artificial (IA) y el aprendizaje automático (Machine Learning – ML) dentro de la tecnología sanitaria. Con ello, los expertos esperan identificar, evaluar y gestionar los riesgos que se desprenden del uso de estas herramientas.
Según los expertos de la AAMI, las normas actuales sobre el uso de dispositivos médicos regulados no abordan de forma apropiada los peligros potenciales de la IA y el ML. Sin mencionar tiempos específicos, aseguran que podrían comprometer la salud y la seguridad de los pacientes, incrementar las desigualdades e ineficiencias de los sistemas de salud, debilitar la confianza en la atención en salud y afectar negativamente el entorno sanitario. Tales conclusiones no aplican únicamente para Reino Unido, también se definieron para los demás países.
También le puede interesar: Estimaciones de la OMS muestran que la pandemia ocasionó 14,9 millones de muertes en el mundo entre 2020 y 2021
El reporte tiene como sustento los fallos y fracasos de la IA y el ML en otras industrias, con el objetivo de aprender y evitar cometerlos en la tecnología sanitaria. En ese sentido, aquellos integrantes del sector que estén familiarizados con las normas internacionales tendrán un nuevo insumo para la gestión de riesgos de los dispositivos médicos o sistemas cuyo funcionamiento depende en estricta medida de la inteligencia artificial o el aprendizaje automático.
“Una de las cosas identificadas de ML es que muchas veces los fracasos se producían porque, aunque el equipo de desarrollo tenía datos, no tenía conocimientos. Los desarrolladores tenían suposiciones lógicas sobre el uso de su producto, pero la realidad era diferente”, señalan los expertos que participaron en la construcción de este informe sobre tecnología sanitaria.
Le puede interesar: Estas son las tendencias de costos médicos en Latinoamérica en 2022
Manejo de datos de calidad y regulación de la tecnología sanitaria
En el informe, la AAMI enfatiza en la calidad de los datos obtenidos y utilizados para el desarrollo de la tecnología sanitaria, pues de ella depende el fracaso o el éxito. Dentro de los principales aspectos que se deben evaluar en la calidad del dato se encuentran: la corrección y adecuación de la información, las anotaciones sobre los datos, los sesgos (BIAS) y la coherencia de los datos que sustentarán modelos de inteligencia artificial o de aprendizaje automático.
Bajo esta premisa, los expertos afirman que los fallos de la IA se producen porque los datos tomados no eran los más adecuados o no eran representativos. Para que esta herramienta sea fiable, lo primero que los desarrolladores deben comprobar es que los algoritmos son robustos y consolidados para el objetivo, así como verificar el volumen de datos de alta calidad que se requieren.
Le puede interesar: En Reino Unido crearon antibióticos sintéticos de bajo costo y de gran potencial
Además, se debe tener en cuenta que la IA permanece en el tiempo y cambia con él, por lo que los procesos de verificación y validación no pueden ser una actividad de una sola vez antes de la comercialización, sino que deben continuar a lo largo del ciclo de vida de un sistema. Esto también aplica para el diseño inicial, la justificación clínica y la comercialización de la tecnología sanitaria en todas sus etapas.
Para minimizar riesgos, en el informe se propone fortalecer el trabajo colaborativo con organismos reguladores, consolidar una terminología estandarizada y la clasificación de la inteligencia artificial para que sirva de base en el futuro a enfoques nacionales e internacionales. Otras recomendaciones son asignar normas internacionales al uso de IA en tecnología sanitaria para detectar los vacíos regulatorios y establecer parámetros para el despliegue de la tecnología sanitaria dentro de los sistemas, siendo utilizada como forma de evaluación de gobernanza de datos, práctica clínica basada en la evidencia, ética profesional y gestión.
No olvide leer: Contraloría: hallan irregularidades en giros de subsidios del Sisbén
