Un profesional recibe una recomendación de inteligencia artificial (IA). Tiene cuatro pacientes esperando, el teléfono sonando y un botón verde que dice aprobar. Lo pulsa. En el acta quedará escrito que hubo supervisión humana.
Quizá la hubo. Quizá no. La diferencia entre las dos cosas no está en el procedimiento, sino en cuánto pudo revisar esa persona antes de pulsar, y en qué le habría pasado si hubiera dicho que no.
Sostengo una idea incómoda para muchos comités: la supervisión humana no es un requisito que se cumple firmando. Es una condición de trabajo. Necesita acceso a la información pertinente, tiempo para examinarla y autoridad real para cambiar el curso de la atención. Donde falta cualquiera de las tres, lo que queda es una firma.
La explicación también hay que ponerla a prueba
En diciembre de 2023, JAMA publicó un estudio aleatorizado con 457 profesionales hospitalarios de trece estados de Estados Unidos, evaluados mediante viñetas clínicas de insuficiencia respiratoria aguda. Con modelos estándar, la exactitud diagnóstica mejoró algunos puntos. Con predicciones deliberadamente sesgadas, cayó 11,3 puntos porcentuales frente al desempeño basal. Al agregar explicaciones basadas en imágenes, la exactitud recuperó apenas 2,3 puntos, una diferencia que no alcanzó significación estadística [1]. Conviene detenerse en ese dato, porque las explicaciones visuales son justamente lo que muchos proveedores presentan como salvaguarda.
Conviene decir qué fue ese estudio y qué no fue. Fueron viñetas, no pacientes atendidos. No midió desenlaces clínicos ni evaluó explicaciones de chatbots. Dentro de esos límites, deja una enseñanza que se traslada bien a nuestros servicios: la presencia de una explicación no convierte una recomendación en confiable, y la presencia de un profesional no neutraliza una recomendación equivocada.
De ahí sale una exigencia práctica. El profesional debe poder consultar el dato original que sostiene la recomendación, no solo el resumen. Si la síntesis omite una incertidumbre que cambia la lectura del caso, tiene que poder detectarlo sin reconstruir la historia clínica desde cero. Una interfaz que muestra únicamente la conclusión reduce la revisión a un acto de fe, por más visible que sea el botón.
Quién puede detener el proceso
Suponga que la persona que revisa encuentra un resultado incompatible con lo que tiene delante, y el sistema exige aprobar para cerrar la tarea. El problema ya no es del modelo. Es del diseño del trabajo.
Antes de abrir el servicio hay que resolver tres preguntas y dejarlas por escrito. ¿Puede rechazar la sugerencia? ¿Puede pedir una segunda revisión? ¿Puede detener el proceso? Y una cuarta, que es la que de verdad importa: ¿puede hacerlo durante el turno, sin depender de localizar a un directivo que no está?
Las responsabilidades deben asignarse por tarea, no por jerarquía. Quien revisa una nota necesita competencias distintas de quien evalúa una alerta diagnóstica. La revisión tampoco tiene que recaer siempre en el mismo cargo. Lo que no puede faltar es que la persona asignada conozca el alcance de su responsabilidad y cuente con respaldo institucional para ejercerla.
Hay un detalle que decide el resultado y casi nunca aparece en la política de IA: los indicadores. Si cada rechazo baja una puntuación de productividad, la institución está pagando por seguridad y premiando obediencia. En una IPS con metas de oportunidad y agendas ajustadas, ese incentivo pesa más que cualquier política escrita, porque lo siente el profesional en su evaluación de fin de mes. Se pueden medir tiempos y estudiar diferencias entre usuarios sin convertir la aceptación del sistema en una meta.
Falta además una salida para quien no tiene información suficiente. Aprobar y rechazar no son las dos únicas respuestas razonables: pedir aclaración, aplazar una acción o derivar la revisión a alguien con más contexto suelen ser decisiones mejores que cualquiera de las dos, y el sistema debería permitirlas y conservar el motivo por escrito. Un flujo binario obliga a fingir certeza.
Medir la supervisión que de verdad ocurre
Una auditoría útil empieza pequeña. Tome una muestra de decisiones y revise qué información vio el profesional, qué modificó y cuánto trabajo adicional le costó. Compare eso con el procedimiento escrito. La distancia entre ambos documentos es donde viven los controles que existen en el papel y no en el servicio.
Para ordenar ese trabajo sirve, con las reservas del caso, el marco de gestión de riesgos de IA del Instituto Nacional de Estándares y Tecnología de Estados Unidos, que lo organiza en cuatro funciones: gobernar, contextualizar, medir y gestionar [2]. Las reservas importan, porque se trata de una referencia voluntaria y transversal que ninguna autoridad colombiana exige. Su aporte es modesto y concreto: obliga a que la gestión tenga actividades con nombre y responsables con apellido.
Registre los desacuerdos y discútalos en equipo. Algunos van a señalar fallas de la herramienta. Otros van a revelar instrucciones confusas o vacíos de formación. Corregir una respuesta es parte del oficio de supervisar. Si cada corrección se trata como un fracaso, el hospital dejará de enterarse de lo que pasa.
Y revise lo más difícil: los casos en que nadie corrigió una respuesta equivocada. Contar rechazos es fácil. Detectar errores aceptados exige revisar trabajo terminado y escuchar a quienes recibieron las consecuencias. Esa segunda cifra dice mucho más que la primera.
Proteger el criterio que queremos conservar
Existe un argumento honesto del otro lado. Si todo exige revisión extensa, el beneficio desaparece y el personal termina saltándose el control por pura supervivencia. Por eso no defiendo el mismo nivel de revisión para cada tarea. Corregir un formato y modificar una conducta clínica no son lo mismo, y la institución debe poder justificar por qué los trata distinto.
También hay que practicar sin la herramienta. El equipo necesita saber cómo continuar si el servicio se cae y cómo reconocer una respuesta que no merece confianza. Eso requiere casos, discusión y retroalimentación. Una capacitación sobre dónde queda cada botón no sirve para eso.
Cuando alguien me diga que su IA clínica tiene a un médico a cargo, voy a hacer tres preguntas. Cuánto tiempo tiene ese médico. Qué información recibe. Qué ocurre cuando dice que no.
Las tres respuestas caben en un párrafo. Si el hospital no las tiene, no tiene supervisión. Tiene una firma.
Las opiniones expresadas en esta columna pertenecen exclusivamente a su autor y no comprometen la línea editorial de CONSULTORSALUD.
Fuentes
[1] Jabbour S, Fouhey D, Shepard S, et al. Measuring the Impact of AI in the Diagnosis of Hospitalized Patients: A Randomized Clinical Vignette Survey Study. JAMA. 2023;330(23):2275-2284.
https://doi.org/10.1001/jama.2023.22295
[2] National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework 1.0. 2023.
