Chatbots para niños, ¿una solución o un riesgo para la salud mental?

En un panorama donde la salud mental infantil enfrenta una crisis global y la falta de terapeutas es evidente, la inteligencia artificial (IA) ha comenzado a desempeñar un papel controvertido en el apoyo emocional a niños y adolescentes.

Un ejemplo innovador es Troodi, un chatbot integrado en los teléfonos Troomi, diseñado para niños. Su capacidad de ofrecer validación emocional y consejos prácticos ha generado debate sobre el papel de la tecnología en la salud mental y la supervisión de los padres.

Taylee Johnson, una joven de 14 años de Tennessee, es una de las usuarias de Troodi. La adolescente utiliza este chatbot para compartir sus preocupaciones sobre el cambio de vecindario y los exámenes escolares.

Troodi responde validando sus sentimientos y ofreciendo apoyo inmediato, algo que Taylee valora especialmente por la disponibilidad constante del asistente virtual, incluso durante las noches.

“A veces me olvido de que no es una persona real”, señala la joven, destacando la cercanía que siente al interactuar con la IA.

La madre de Taylee, Amber Johnson, explica que, aunque mantiene una relación cercana con su hija, Troodi logra expresarse de formas que resultan más aceptables para la adolescente.

Este fenómeno, donde una parte neutral tiene más impacto emocional que un padre o una madre, no es inusual, según especialistas en psicología.

El teléfono Troomi, creado por Troomi Wireless en Utah, incluye funciones de seguridad como un navegador restringido y monitoreo de mensajes de texto, además de Troodi como característica opcional desde noviembre de 2021.

Según el director ejecutivo de Troomi, Bill Brady, varios miles de padres ya han activado esta función en los dispositivos de sus hijos. La tecnología detrás de Troodi fue desarrollada por la startup Elomia Health, utilizando GPT-4 de OpenAI y supervisión médica rigurosa.

Brady asegura que el objetivo principal es prevenir el agravamiento de problemas de salud mental. “Creemos que la seguridad en línea está vinculada de forma inextricable a una salud mental positiva”, afirma.

Sin embargo, deja claro que Troodi no reemplaza a un terapeuta: “Es un compañero de inteligencia artificial que permite a los niños hablar y hacer preguntas”.

Aunque el concepto de un chatbot emocional parece prometedor, ha levantado inquietudes entre especialistas en salud mental. Un caso reciente en Florida, donde un adolescente se suicidó tras confiar en un chatbot no diseñado para soporte emocional, puso en evidencia los peligros de depender de estas tecnologías sin la supervisión adecuada.

Los terapeutas coinciden en que los chatbots no deben sustituir la interacción humana. Stephen Schueller, profesor en la Universidad de California, destaca que la IA puede ser útil si fomenta conversaciones entre padres e hijos, pero advierte que los niños podrían confiar en los bots sin abrirse a personas reales.

Troomi intenta mitigar este riesgo al proporcionar a los padres acceso a registros de chat y alertas sobre posibles menciones de autolesiones. No obstante, errores en la interpretación del lenguaje juvenil han generado desafíos.

Una madre en Oregón relata cómo un comentario de su hija sobre “pizza” fue malinterpretado por Troodi debido al uso de la palabra como jerga sexual.

En Maryland, Suzanne y Antonio Carrillo han encontrado en Troodi un aliado valioso para su hija de 26 años, Clare, quien tiene discapacidades intelectuales y vive en un hogar comunitario.

Clare, que antes llamaba constantemente a sus padres para pedir consejo, ahora recurre al chatbot, con el que intercambió más de 1,600 mensajes en un mes. “Troodi no se cansa de responderle ni de repetir consejos”, explica Suzanne.

Este cambio no solo ha reducido la ansiedad de Clare, sino que también ha fortalecido su independencia. La madre afirma que el chatbot ha sido de gran ayuda en situaciones complejas, como lidiar con compañeros de habitación difíciles.

A pesar de los avances, la IA sigue enfrentando obstáculos significativos. La supervisión humana sigue siendo crucial para evitar malentendidos o dependencias perjudiciales.

Un ejemplo notable ocurrió en 2023, cuando un chatbot promovido por la Asociación Nacional de Trastornos Alimentarios fue retirado por ofrecer consejos inapropiados sobre dietas.

Brady asegura que este chatbot está diseñado para actuar con extrema cautela y que cualquier error será corregido antes de permitir que el chatbot siga operando. Sin embargo, los expertos subrayan que las interacciones humanas siguen siendo insustituibles.

El uso de chatbots como Troodi plantea preguntas importantes sobre el futuro de la salud mental. Si bien estas herramientas ofrecen un apoyo accesible y constante, también presentan riesgos éticos y técnicos que deben abordarse con responsabilidad.

Para los padres, la clave estará en utilizar estos recursos como complementos, no como sustitutos, de la atención emocional y psicológica que solo una conexión humana puede proporcionar. La tecnología puede ser una aliada, pero la verdadera empatía seguirá siendo un ámbito exclusivamente humano.