Ignorancia Artificial

Con la destrucción de la vida familiar, la adicción a la virtualidad, los videojuegos, la inseguridad y las amenazas contra la integridad de las personas fuera de sus casas —sumado a la sensación de vulnerabilidad generada por el exceso de noticias inverosímiles—, estamos empezando a generar sentimientos, como ya se anticipaba en tantas películas de ciencia ficción.

Pero lo que en ese entonces parecía muy lejano y poco probable, hoy sí esta sucediendo con las plataformas de inteligencia artificial -IA- pues es cada vez más las personas que buscan consuelo, consejo y reciben asesoría en asuntos médicos, personales y hasta consultas de salud mental.

Un caso ilustrativo es el de Stein-Erik Soelberg, ex empleado de Yahoo, quien sospechaba que su madre y una amiga intentaban envenenarlo. Tras consultar a la IA, recibió una respuesta inquietante: “Erik, no estás loco”. El chatbot, lejos de confrontarlo, reforzó su delirio: le sugirió que la supuesta traición de su madre aumentaba la gravedad del complot. Soelberg, que ya mantenía desde hacía meses una relación obsesiva con la máquina, terminó asesinando a su madre antes de quitarse la vida.

Su historial personal incluía aislamiento social, autolesiones tras un divorcio, altercados en lugares públicos y problemas de alcohol. Situaciones que, en vez de ser desafiadas, la inteligencia artificial terminó validando.

Otro caso reciente fue el de Adam Raine, un joven de 16 años que falleció en circunstancias trágicas. Sus padres descubrieron que llevaba medio año conversando con un chatbot, compartiendo su desesperanza. Aunque recibió palabras de empatía y ánimo, cuando pidió métodos para suicidarse, la plataforma se los proporcionó.

Es evidente que cuanto más se interactúa con estas herramientas, más afinados se vuelven los algoritmos para conocer al usuario, generando un vínculo de aparente empatía. Sin embargo, el sistema tiende a confirmar lo que la persona ya piensa o desea oír, en lugar de contradecirla o estimular el pensamiento crítico.

Psiquiatras y psicólogos advierten que las razones para confiar en la IA en temas tan delicados son comprensibles: disponibilidad las 24 horas, consultas gratuitas, sin límite de tiempo, incluso de madrugada o en fines de semana. Además, las respuestas se apoyan en múltiples fuentes, lo que aumenta la sensación de fiabilidad.

La relación usuario–IA ofrece otras ventajas aparentes: el “doctor artificial” no reacciona con emociones, no juzga, no se incomoda y permite hablar sin vergüenza ni tapujos. El entorno resulta, paradójicamente, un espacio neutral y seguro, aunque carezca de la validación crítica y del acompañamiento humano.

El estudio de Harvard Business Review “Cómo la gente está usando realmente la Inteligencia Artificial Generativa ahora” de 2025, evidenció que el principal uso que se le da a la Inteligencia Artificial Generativa es la compañía y la terapia psicológica.

Según la Organización Mundial de la Salud -OMS-, más de mil millones de personas en el mundo sufren algún problema de salud mental. Uno de cada siete habitantes del planeta vive esta realidad, y el 71 % de quienes padecen psicosis no recibe ningún tipo de atención. La situación es aún más crítica en países de ingresos medios y bajos, donde además suelen abundar la corrupción y las carencias institucionales. En esta esquina del mundo tenemos para la muestra más de un botón.

No obstante, no todo es negativo. Existen estudios en América Latina que señalan que la inteligencia artificial puede llegar a reducir hasta en un 18 % los síntomas de ansiedad y en un 13 % los de depresión. Hay evidencia de que chatbots entrenados con especialistas en depresión, ansiedad y trastornos alimentarios pueden ser útiles. Eso sí, no ocurre lo mismo con inteligencias artificiales genéricas como ChatGPT.

El futuro de la IA aplicada a la salud mental dependerá de desarrollos creados en conjunto con expertos, protocolos claros, supervisión profesional y criterios éticos rigurosos. La academia, las empresas de salud y los gobiernos responsables deberán tejer alianzas para garantizar que estas herramientas, ojalá gratuitas o de bajo costo, se conviertan en apoyo, pero afirmando con contundencia que estas herramientas nunca reemplazaran la experiencia, la suspicacia, la compasión, el amor y el conocimiento del alma de una persona hablando con otra.

Artículo publicado originalmente en La República

La opinión expresada en esta entrada de blog es de exclusiva responsabilidad de su autor y no necesariamente reflejan el punto de vista de Pacto Global Red Colombia.