¿Qué sabemos de los pacientes que casi no aparecen en nuestros registros?
Esa pregunta debería acompañar cada informe de buen desempeño de una herramienta de inteligencia artificial (IA). El promedio puede describir con precisión a quienes fueron evaluados y no decir casi nada sobre una persona con historia fragmentada, con barreras de acceso o que habla un idioma distinto al que domina la base de datos.
La equidad no es una revisión que se hace al final. Entra en la evaluación desde el primer día, porque el primer problema aparece antes de entrenar cualquier modelo, en el momento de decidir qué resultado se va a predecir. Medir lo que está disponible es cómodo. Rara vez coincide con lo que el servicio necesita saber.
La primera decisión de equidad es qué se intenta medir
Obermeyer y sus colegas publicaron en Science, en 2019, el análisis de un algoritmo comercial utilizado en Estados Unidos para identificar pacientes con necesidades de salud complejas. El sistema predecía costos de atención en lugar de enfermedad. Como se gastaba menos dinero en los pacientes negros que en los blancos con igual nivel de enfermedad, el algoritmo los clasificaba sistemáticamente como menos necesitados. Corregir ese sesgo habría elevado la proporción de pacientes negros seleccionados para atención adicional del 17,7 al 46,5 por ciento [1].
Nadie programó esa discriminación. Alguien eligió una variable conveniente.
Ese estudio describe el sistema de salud estadounidense y no mide la inequidad colombiana. La advertencia, en cambio, viaja perfectamente. Si una institución de la región intenta identificar necesidad de atención a partir del uso previo de servicios, tiene un problema idéntico en el diseño: las personas que nunca pudieron acceder aparecerán como personas que no necesitaban acceder.
Tome un caso que cualquier comité va a encontrar. ¿Cómo debería interpretar un modelo una cita incumplida? Antes de tratarla como señal de desinterés o de baja adherencia, hay que preguntar si la persona recibió el mensaje, si tenía cómo pagar el transporte desde un municipio alejado y si podía ausentarse del trabajo sin perder el día. En buena parte de la región, la inasistencia mide la distancia y el bolsillo antes que la voluntad. El registro de la ausencia no contiene ninguna de esas respuestas. Un sistema que orienta la atención debería poder distinguir esas situaciones o, como mínimo, declarar que no las distingue.
Revisar quién quedó fuera de la evaluación
La evaluación debe informar los criterios de inclusión y exclusión de los datos. Me interesa sobre todo qué pasó con las historias incompletas, con los pacientes de pocos registros longitudinales y con las variables que se miden de otra forma en otra sede. Excluir esos casos facilita el desarrollo y reduce la utilidad de la prueba para un servicio real, que está hecho justamente de esos casos.
Los grupos relevantes se definen antes de mirar los resultados, no después. Esa selección exige criterio clínico y conocimiento local. Importar categorías diseñadas para otro país deja fuera diferencias que aquí sí importan. Al mismo tiempo, partir la muestra hasta obtener subgrupos minúsculos produce conclusiones inestables que no resisten una segunda medición. Busque diferencias que cambien decisiones y que pueda investigar con seriedad.
Cuando un grupo tiene pocos casos, la respuesta honesta es que la evidencia no alcanza. Presentar una cifra sin ese matiz ofrece una precisión que no existe. Y ahí viene el error más común de los comités: tratar la ausencia de evidencia como evidencia de seguridad. No lo es. Es una razón para restringir el uso o reforzar la supervisión mientras se reúne información.
Incluya en la revisión a quienes conocen las barreras de acceso y a representantes de pacientes. Ven ausencias que ninguna tabla muestra. Instrucciones imposibles de seguir, teléfonos compartidos entre varias personas, trámites que exigen conexión estable. Esa participación necesita preguntas concretas y capacidad real de cambiar el diseño, porque de lo contrario es una foto para el informe.
Detectar una brecha no dice qué hacer con ella
Encontrar una diferencia entre grupos es el comienzo del trabajo. Lo primero es investigar su origen: puede ser un error de medición, información incompleta o un uso fuera del alcance previsto. Cada causa exige una respuesta distinta. Ajustar un umbral sin entender el problema suele mover el perjuicio a otro punto del proceso, donde nadie lo está mirando.
La Organización Panamericana de la Salud incluye la conectividad universal, la inclusión digital, la protección de los derechos humanos y la cooperación en inteligencia artificial entre sus ocho principios para la transformación digital de la salud pública [2]. Son orientaciones regionales que ayudan a situar la discusión más allá del desempeño técnico de un producto.
En un hospital eso se traduce en decisiones observables. Si una comunicación digital no llega, tiene que existir otra vía. Si una recomendación no tiene respaldo suficiente para cierto grupo, el equipo debe saberlo antes de usarla. Y si se modifica el proceso para corregir una diferencia, hay que volver a mirar seis meses después quién se benefició y quién quedó nuevamente fuera.
Evaluar equidad cuesta dinero, y no todas las instituciones pueden financiar estudios separados. Una colaboración entre centros permite compartir protocolos y aprendizaje, siempre que se proteja la información y se conserve la interpretación local. Compartir un método no autoriza a suponer que el resultado será el mismo en todas partes.
La pregunta que no debe salir de la reunión
Alguien va a objetar, con razón, que estas exigencias retrasan herramientas capaces de mejorar el acceso. La objeción es legítima y merece respuesta. Por eso defiendo controles proporcionales dentro del piloto, no un estudio perfecto antes de cada mejora. Mantener la práctica actual también tiene riesgos, y esos riesgos también se miden.
Pero hay una pregunta que no puede quedar fuera del acta: quién podría salir perdiendo con esta decisión, aunque el promedio mejore. A veces la respuesta permite corregir un detalle. Otras veces obliga a limitar el uso o a escoger otra solución. En los dos casos produce información que la compra necesitaba.
El paciente con menos datos sigue teniendo exactamente las mismas necesidades clínicas que cualquier otro. Por eso, antes de ampliar una herramienta, quiero saber con qué vamos a atender a quienes no estaban suficientemente representados en su evaluación: otra vía de valoración, una restricción temporal del uso, más supervisión durante unos meses. Cualquiera de las tres es una respuesta. Seguir adelante sin ninguna también lo es, y también hay que poder sostenerla delante del paciente que quedó fuera de la tabla.
Las opiniones expresadas en esta columna pertenecen exclusivamente a su autor y no comprometen la línea editorial de CONSULTORSALUD.
Fuentes:
[1] Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-453.
https://doi.org/10.1126/science.aax2342
[2] Pan American Health Organization. Eight principles for digital transformation of public health.
