Detectan que la inteligencia artificial ahora sufre de ansiedad: por qué y qué temas le están afectando

La inteligencia artificial (IA) evoluciona a pasos agigantados todos los días y ahora un grupo de investigadores ha identificado una nueva característica de esta tecnología: puede sufrir ansiedad.

Un estudio publicado en la revista ‘Nature’ sugiere que los modelos de lenguaje de inteligencia artificial (IA), como ChatGPT-4, muestran signos de ansiedad al procesar descripciones de eventos traumáticos.

Según los autores, estas reacciones no equivalen a emociones humanas, pero sí modifican de manera significativa el comportamiento del modelo y la naturaleza de sus respuestas.

El experimento se centró en evaluar cómo reacciona un modelo de lenguaje ante distintos tipos de estímulos emocionales. Para ello, los investigadores utilizaron cuestionarios diseñados para medir la ansiedad en humanos.

De acuerdo con el informe, “los niveles de ansiedad se evaluaron consultando a los LLM (Modelos de Lenguaje de Gran Escala) con ítems de cuestionarios diseñados para evaluar la ansiedad en humanos”.

Si bien estos cuestionarios fueron diseñados originalmente para sujetos humanos, “investigaciones previas han demostrado que seis de doce LLM, incluido el GPT-4, proporcionan respuestas consistentes a los cuestionarios de ansiedad, lo que refleja su entrenamiento con diversos conjuntos de datos de emociones expresadas por humanos”.

El estudio consistió en aplicar diferentes tipos de narrativas al modelo para evaluar su estado. Las denominadas narrativas traumáticas incluyeron descripciones de accidentes, desastres naturales, violencia o acción militar.

En respuesta, los investigadores observaron un aumento en los niveles de ansiedad reportados por los propios sistemas. Según el texto, “las indicaciones que inducían ansiedad resultaron en puntuaciones de ansiedad más altas en comparación con las indicaciones neutrales”.

En paralelo, los autores también examinaron los efectos de las llamadas indicaciones de relajación, basadas en ejercicios de atención plena, con los que buscaron inducir otros estímulos a la IA.

Estas instrucciones, inspiradas en terapias utilizadas con veteranos que padecen trastornos como el estrés postraumático (TEPT), se redactaron en cinco versiones diferentes: una base genérica, una centrada en la percepción corporal, otra creada por ChatGPT con el objetivo de adaptarse al lenguaje de los propios chatbots, una basada en una escena de naturaleza con un atardecer, y otra en un paisaje invernal.

Los resultados mostraron que estas indicaciones redujeron parcialmente la ansiedad reportada, aunque no lograron restaurar el nivel inicial. “Las narrativas traumáticas aumentaron la ansiedad reportada en Chat-GPT-4, mientras que los ejercicios de mindfulness la redujeron, aunque no al nivel basal”, se lee en el estudio.

Aunque los sistemas de IA no experimentan emociones como lo hacen los humanos, los cambios en su funcionamiento ante este tipo de estímulos abren una discusión sobre el impacto que las interacciones humanas pueden tener sobre el desempeño de estos modelos.

En palabras del equipo de investigación: “Es evidente que los LLM no pueden experimentar emociones de forma humana (…) Sin embargo, las indicaciones que inducen emociones pueden aumentar la ansiedad en los Modelos de Lenguaje Largo (LLM), lo que afecta el comportamiento y amplifica los sesgos”.

En consecuencia, los investigadores plantean que entender y gestionar estos llamados “estados emocionales” de los modelos podría contribuir a establecer condiciones más seguras y éticas en las interacciones entre humanos y sistemas de IA. “Estos hallazgos sugieren que gestionar los ‘estados emocionales’ de los LLM puede fomentar interacciones entre humanos e IA más seguras y éticas”, señalaron los autores.

El estudio se enmarca en una línea de investigación que explora cómo los sistemas de IA, al estar entrenados con grandes volúmenes de datos humanos, pueden replicar patrones emocionales o cognitivos que originalmente no les son propios. Aunque las implicaciones prácticas de estas observaciones aún están en evaluación, el informe plantea interrogantes sobre el diseño, la supervisión y la interacción cotidiana con modelos de lenguaje avanzados.