La FDA ha intensificado sus esfuerzos para regular dispositivos médicos con componentes de inteligencia artificial (IA) y aprendizaje automático (ML). Para ello, ha publicado una serie de documentos de orientación y estándares, buscando garantizar que estos dispositivos cumplan con las mejores prácticas y mantengan altos niveles de transparencia y seguridad.
En uno de los últimos documentos, la agencia presenta las recomendaciones en mejores prácticas para la transparencia en dispositivos médicos habilitados con ML. Al respecto, Roy Tazbaz, director del Centro de Excelencia en Salud Digital de CDRH aseguró que este aspecto es fundamental para asegurar que los modelos de IA sean precisos, confiables, éticos y equitativos.
“Una de las principales preocupaciones para la seguridad de los dispositivos es la garantía de calidad, aplicada a lo largo del ciclo de vida del desarrollo y uso de un modelo en el cuidado de la salud. El monitoreo continuo del rendimiento antes, durante y después de la implementación es una forma de lograr esto, así como identificar problemas de calidad de datos y de rendimiento antes de que el rendimiento del modelo se vuelva insatisfactorio”, expresó Tazbaz en un blog publicado en el sitio web de la FDA. Adicionalmente, indicó que la agencia continuará evaluando los alcances abordando temas como:
- Estándares, mejores prácticas y herramientas operativas Laboratorios de garantía de calidad Transparencia y responsabilidad
- Gestión de riesgos para modelos de IA en el cuidado de la salud
En términos generales, los estándares, mejores prácticas y herramientas pueden apoyar el desarrollo responsable de la IA y proporcionar a los clínicos, pacientes y otros usuarios finales la garantía de calidad necesaria para los productos. Por otra parte, el evaluar la transparencia y el impacto de la responsabilidad de las nuevas tecnologías puede ser un vehículo para que los interesados se sientan cómodos con el uso de éstas.
La garantía de calidad y la gestión de riesgos, adaptadas a instituciones de salud de todos los tamaños, pueden brindar confianza en que los modelos de IA se desarrollan, prueban y evalúan con datos representativos de la población a la que están destinados. “La comunidad de atención médica en conjunto podría acordar metodologías comunes que proporcionen información a una amplia gama de usuarios finales (incluidos los pacientes), y sobre cómo se entrenó, desplegó y gestionó el modelo a través de herramientas de monitoreo robustas y disciplina operativa”, indicó.
Una mirada retrospectiva a las consideraciones de la FDA sobre IA
En 2021, la agencia colaboró con Health Canada y la Agencia Reguladora de Medicamentos y Productos Sanitarios del Reino Unido para establecer principios orientadores para la buena práctica del aprendizaje automático.
En 2022, la FDA aclaró que las herramientas de soporte para la toma de decisiones clínicas deben ser reguladas por la agencia como dispositivos médicos. En especial, aquellas que predicen el riesgo de sepsis o accidente cerebrovascular deberían estar bajo su supervisión. El año pasado, la agencia emitió una guía preliminar sobre planes de control de cambios predeterminados que permitirían a los desarrolladores realizar cambios en un modelo de IA después de su comercialización, dentro de los límites acordados previamente con la FDA.
Actualmente, la agencia estadounidense está co-liderando un grupo de trabajo con el Foro Internacional de Reguladores de Dispositivos Médicos en dispositivos médicos habilitados con IA y aprendizaje automático.
