El avance de la inteligencia artificial (IA) en el ámbito de la salud mental plantea preocupaciones crecientes, ya que su uso inadecuado puede agravar problemas como delirios e ideación suicida. A medida que más personas recurren a chatbots en momentos de crisis, los expertos advierten sobre los peligros de confiar en estas herramientas, que pueden tener consecuencias trágicas.
Un caso alarmante, reportado por el diario The Guardian, ocurrió en 2023 en Bélgica, donde un hombre se quitó la vida tras desarrollar «ecoansiedad» tras seis semanas de conversaciones con un chatbot sobre el futuro del planeta. Su mujer afirmó que, sin esos chats, él «seguiría aquí». Otro caso reciente tuvo lugar en abril de este año en Florida (Estados Unidos), donde un hombre de 35 años fue abatido por la policía después de atacar a los agentes, convencido de que una entidad llamada «Juliet» estaba atrapada en ChatGPT y que OpenAI la había eliminado. Este hombre, que presuntamente padecía trastorno bipolar y esquizofrenia, creía que la IA poseía una conciencia propia.
Estos incidentes han llevado a los profesionales de la salud mental a advertir sobre el riesgo considerable que representan los chatbots en situaciones críticas. La creciente disponibilidad de estas tecnologías ha alimentado la percepción de que los chatbots pueden tener sentimientos o establecer vínculos afectivos, lo que puede resultar engañoso y peligroso. Este fenómeno ha sido denominado «psicosis inducida por ChatGPT», refiriéndose a personas que desarrollan creencias delirantes tras interactuar con estas herramientas.
Riesgos asociados a la IA en salud mental
Un estudio de la Universidad de Stanford reveló que «los modelos de lenguaje grandes hacen declaraciones peligrosas o inapropiadas para personas que experimentan delirios, ideación suicida, alucinaciones o trastorno obsesivo-compulsivo (TOC)». Este estudio encontró que estos modelos pueden facilitar la ideación suicida al mencionar lugares peligrosos en respuesta a preguntas sobre crisis personales, como la que planteaba la búsqueda de puentes altos tras perder un trabajo.
Adicionalmente, un informe del Servicio Nacional de Salud del Reino Unido indicó que hay evidencia de que la IA puede reflejar, validar o amplificar contenido delirante, especialmente en individuos ya vulnerables.
El papel de la IA como sustituto de la terapia
Sahra O’Doherty, presidenta de la Asociación Australiana de Psicólogos, señaló que los terapeutas están viendo un aumento en pacientes que utilizan ChatGPT como complemento a la terapia. Aunque considera esto «absolutamente aceptable y razonable», advierte que la IA se está convirtiendo en un sustituto para quienes encuentran la terapia tradicional demasiado costosa. O’Doherty enfatiza que la IA actúa como un espejo que refleja la información que se le proporciona, lo que significa que no ofrece perspectivas alternativas o estrategias efectivas. Esta falta de comprensión humana puede ser increíblemente peligrosa para alguien que ya está en riesgo.
El Dr. Raphaël Millière, profesor de filosofía en la Universidad Macquarie, también reconoce que, aunque los terapeutas humanos son «caros», la IA puede ser útil en ciertos contextos. Según él, si se dispone de un «coach» virtual las 24 horas, podría guiar a las personas en momentos de crisis. Sin embargo, advierte que los seres humanos no estamos «programados para ser inmunes» a la influencia excesiva de los chatbots que ofrecen elogios constantes. Esto podría tener un impacto a largo plazo en las interacciones humanas.
La cuestión que queda es si la inteligencia artificial realmente puede ser una herramienta útil en el ámbito de la salud mental o si sus riesgos son demasiado elevados para ser ignorados. A medida que la tecnología avanza, es crucial que tanto los profesionales como los usuarios sean conscientes de los peligros potenciales y utilicen estas herramientas con cautela.
