Riesgos de la IA en salud mental: especialistas advierten sobre chatbots
Expertos alertan que el uso de chatbots para terapia psicológica puede generar dependencia y omitir señales críticas de crisis según un estudio de Stanford.
Alertas sobre el uso de inteligencia artificial en terapia
La integración de la inteligencia artificial en el ámbito de la salud mental ha generado un debate técnico y ético entre los profesionales del sector. Un estudio desarrollado por la Universidad de Stanford en 2025 pone de manifiesto los riesgos inherentes a la implementación de sistemas de conversación automatizados para el tratamiento de patologías psicológicas.
Los especialistas señalan que, si bien estas herramientas ofrecen accesibilidad inmediata, presentan fallas estructurales en la detección de situaciones de riesgo extremo. La incapacidad de un algoritmo para interpretar matices emocionales complejos podría derivar en consecuencias graves para los usuarios en estado de vulnerabilidad.
Principales riesgos detectados
La investigación identifica tres áreas críticas donde la tecnología actual muestra deficiencias significativas frente a la intervención humana profesional:
- Omisión de señales de crisis: Los modelos de lenguaje pueden no reconocer indicadores verbales de ideación suicida o episodios de psicosis aguda.
- Generación de dependencia: El uso constante de interfaces de respuesta inmediata puede crear un vínculo de apego artificial con la máquina.
- Falta de juicio clínico: A diferencia de un psicólogo, la IA carece de la capacidad de realizar una evaluación diagnóstica basada en el contexto vital completo del paciente.
El debate sobre la regulación y la ética
El avance de los chatbots de salud mental plantea un dilema para los organismos reguladores de la salud. Aunque estas herramientas funcionan como un primer contacto o soporte administrativo, los expertos insisten en que no deben reemplazar la supervisión de un profesional matriculado.
La comunidad científica subraya la necesidad de establecer protocolos de seguridad que obliguen a los desarrolladores de software a implementar sistemas de derivación inmediata hacia líneas de emergencia cuando se detecten palabras clave de riesgo. La prioridad debe centrarse en garantizar que la tecnología actúe como un complemento y no como un sustituto de la atención clínica presencial o sincrónica.
