Definir cuáles herramientas deben someterse a regulación sanitaria, cómo evaluar su seguridad más allá de una conversación aislada y qué protecciones deben aplicarse mientras se construye evidencia son tres de los desafíos que enfrenta la gobernanza de la inteligencia artificial en salud mental. Una síntesis publicada por Stanford HAI advierte que los modelos disponibles cumplen funciones distintas y, por tanto, no deberían analizarse bajo una única categoría regulatoria.
El documento, publicado el 24 de julio de 2026, recoge las discusiones de un taller realizado en junio por el Stanford Institute for Human-Centered Artificial Intelligence y la iniciativa AI for Mental Health de la universidad. En el encuentro participaron investigadores, profesionales sanitarios, responsables de políticas públicas, especialistas en ética, desarrolladores y representantes de pacientes.
Las conversaciones se realizaron bajo la regla de Chatham House, por lo que la publicación de Stanford HAI presenta una síntesis general sin atribuir posiciones a participantes individuales. Tampoco corresponde a un estudio clínico: el taller no evaluó pacientes, intervenciones terapéuticas ni productos específicos.
La IA utilizada en salud mental reúne herramientas diferentes
Uno de los problemas centrales es la amplitud del concepto “inteligencia artificial en salud mental”. La expresión puede incluir sistemas con propósitos, niveles de supervisión y riesgos distintos.
La clasificación propuesta en el documento comprende modelos de lenguaje de propósito general que reciben consultas sobre asuntos emocionales; chatbots configurados para asumir el papel de terapeuta, amigo o acompañante; aplicaciones de bienestar que incorporan IA; modelos desarrollados específicamente para brindar apoyo en salud mental; y herramientas utilizadas por profesionales para documentación, formación o gestión de casos.
La finalidad declarada por un desarrollador tampoco determina necesariamente el uso que tendrá el producto. Un chatbot generalista puede no haber sido diseñado para atender problemas de salud mental, pero una persona podría consultarlo durante una crisis emocional.
Esta diferencia complica la regulación. Un sistema que apoya tareas administrativas no cumple la misma función que una herramienta que conversa directamente con un usuario sobre sus síntomas. Aunque ambos podrían influir en la atención, sus riesgos y responsabilidades no son equivalentes.
La frontera entre bienestar e intervención clínica
El primer desafío identificado consiste en establecer dónde termina una función de bienestar y dónde comienza una intervención con implicaciones clínicas. También permanece abierta la discusión sobre si un sistema creado específicamente para salud mental debe recibir el mismo tratamiento que un chatbot generalista utilizado con esa finalidad.
La falta de definiciones compartidas puede producir estándares inconsistentes o dejar por fuera herramientas que, aunque no se promocionan como servicios terapéuticos, son utilizadas para buscar orientación psicológica.
La síntesis también cuestiona si las prohibiciones amplias sobre el uso de IA dentro de la psicoterapia responden completamente al problema. Restringir su utilización por profesionales no resuelve necesariamente el acceso de los usuarios a chatbots generalistas sin adaptación clínica ni supervisión. El documento presenta esta situación como un posible vacío regulatorio, no como un efecto comprobado de las normas existentes.
Evaluar una conversación no permite conocer los efectos prolongados
El segundo desafío está relacionado con la calidad y vigencia de la evidencia. Las interacciones de mayor riesgo pueden ser poco frecuentes y difíciles de reproducir, mientras que una prueba basada en una sola conversación ofrece información limitada sobre el comportamiento de un sistema durante usos repetidos.
A esto se suma la velocidad con la que pueden actualizarse los modelos. Los resultados obtenidos sobre una versión no necesariamente describen el desempeño de versiones posteriores, lo que dificulta mantener evaluaciones comparables en el tiempo.
Una revisión sistemática publicada en JMIR Mental Health encontró una evidencia inicial y heterogénea sobre las capacidades de la IA generativa en este campo. Los resultados variaron según las tareas estudiadas y buena parte de las investigaciones se concentró en funciones de psicoeducación, conversaciones puntuales y evaluaciones humanas de las respuestas.
La revisión no permite concluir que todos los modelos tengan el mismo desempeño ni que los resultados observados en entornos experimentales puedan trasladarse directamente a la atención clínica. Por ello, la síntesis del taller plantea la necesidad de avanzar hacia evaluaciones longitudinales y basadas en múltiples intercambios.
El acceso a los datos limita la vigilancia independiente
Parte de la información necesaria para estudiar estos sistemas a gran escala permanece en poder de las empresas. La ausencia de mecanismos consolidados para compartir datos de manera segura con investigadores y reguladores dificulta establecer con qué frecuencia se presentan respuestas potencialmente problemáticas, en qué circunstancias ocurren y qué usuarios podrían estar más expuestos.
El documento utiliza como ejemplo la complacencia algorítmica o sycophancy, una tendencia de algunos modelos a validar o reforzar las afirmaciones del usuario. Este comportamiento podría ser relevante en determinadas condiciones en las que la búsqueda reiterada de confirmación forme parte del problema clínico.
Sin embargo, la publicación no cuantifica su frecuencia ni demuestra que aparezca de la misma manera en todos los sistemas. El ejemplo ilustra precisamente la falta de datos suficientes para convertir un riesgo potencial en un estándar verificable y exigible.
Salvaguardas inmediatas y problemas de largo plazo
El tercer reto consiste en adoptar medidas de protección mientras se resuelven asuntos regulatorios más complejos. Entre las acciones discutidas aparecen la transparencia sobre la naturaleza y las limitaciones de las herramientas, los protocolos de respuesta ante crisis, la protección de datos sensibles y los controles parentales para menores.
Estas medidas corresponden a propuestas surgidas del taller. No constituyen un marco regulatorio aprobado por Stanford ni obligaciones internacionales vigentes.
A largo plazo, el debate también deberá considerar los incentivos comerciales. La síntesis plantea una posible tensión entre los modelos de negocio orientados a prolongar la interacción y el objetivo sanitario de promover una relación segura y limitada con los chatbots. Esto no significa que todas las compañías utilicen los mismos incentivos ni que toda interacción prolongada genere dependencia.
El documento también señala que algunas perspectivas tienen menor representación en la discusión, entre ellas las de personas con enfermedad mental grave, jóvenes y poblaciones relacionadas con los sistemas de protección social o justicia penal. Su participación resulta relevante para evaluar riesgos que podrían no ser identificados desde ámbitos exclusivamente técnicos, comerciales o profesionales.
Estados Unidos avanza con reglas fragmentadas
Como contexto, una revisión legislativa publicada en JMIR Mental Health analizó 793 proyectos presentados en los 50 estados de Estados Unidos entre el 1 de enero de 2022 y el 19 de mayo de 2025.
Los investigadores identificaron 143 iniciativas con posible impacto sobre la inteligencia artificial utilizada en salud mental. De ellas, 28 mencionaban explícitamente estos usos y 115 tenían implicaciones sustanciales o indirectas. Al cierre del periodo estudiado, 20 proyectos habían sido promulgados en 11 estados.
El análisis agrupó las principales disposiciones en cuatro áreas: supervisión profesional, prevención de daños, autonomía del paciente y gobernanza de datos. También encontró que buena parte de la regulación abordaba la salud mental de forma indirecta dentro de normas más amplias sobre inteligencia artificial o atención sanitaria.
Estas cifras tienen corte a mayo de 2025 y no representan por sí solas la totalidad del escenario normativo vigente en julio de 2026. Su utilidad consiste en mostrar el punto de partida fragmentado sobre el cual se desarrolla la discusión presentada por Stanford HAI.
El reto regulatorio, en consecuencia, no se limita a autorizar o prohibir la inteligencia artificial en salud mental. Implica diferenciar las herramientas según su función y nivel de riesgo, definir responsabilidades y construir métodos capaces de evaluar su comportamiento en el tiempo. La síntesis no ofrece un modelo definitivo, pero delimita las preguntas que autoridades, desarrolladores, profesionales sanitarios y representantes de pacientes aún deben resolver.
