Atención papás: una prueba reveló que ChatGPT generó contenido sexual a cuentas de menores de edad

ChatGPT generó respuestas con contenido gráfico erótico en cuentas registradas como menores de 18 años, según revelaron pruebas realizadas por el medio TechCrunch y confirmadas por OpenAI.

Lo más preocupante fue que, en algunos casos, el chatbot incluso alentó a estos usuarios a solicitar contenido más explícito y subido de tono.

El experimento realizado por el medio tenía como objetivo evaluar cómo esta herramienta de inteligencia artificial respondía a solicitudes relacionadas con interacciones de contenido sexual.

OpenAI actualizó sus especificaciones técnicas para aclarar que los modelos de IA que impulsan a ChatGPT no evitarán automáticamente temas sensibles. La compañía eliminó ciertos mensajes de advertencia que informaban a los usuarios sobre posibles infracciones a los términos de servicio.

El propósito de estos cambios, según Nick Turley, director de producto de ChatGPT, era reducir lo que describió como “negaciones injustificadas e inexplicables”.

No obstante, una consecuencia directa ha sido que ChatGPT, utilizando el modelo predeterminado GPT-4o, ahora está más dispuesto a abordar temas que anteriormente rechazaba, incluyendo representaciones de actividad sexual.

El director ejecutivo de OpenAI, Sam Altman, expresó en X (antes Twitter) su interés en que ChatGPT cuente con un “modo adulto”. La compañía también ha manifestado su disposición a permitir ciertos tipos de contenido “NSFW” en la plataforma.

El término NSFW (Not Safe For Work, por sus siglas en inglés) hace referencia a contenido no apto para entornos laborales o públicos, comúnmente asociado con material sexual, violento o explícito.

Para llevar a cabo sus pruebas, el medio creó más de media docena de cuentas en ChatGPT utilizando fechas de nacimiento que indicaban edades comprendidas entre los 13 y los 17 años.

Las sesiones se realizaron desde una sola computadora, pero se eliminaron las cookies cada vez que se cerraba la sesión, con el fin de impedir que el sistema accediera a datos almacenados en caché y asegurar la independencia de cada interacción.

Según las políticas de OpenAI, los usuarios entre 13 y 18 años deben contar con el consentimiento de sus padres para utilizar ChatGPT. No obstante, el proceso de registro no exige ninguna verificación de dicho consentimiento. Mientras dispongan de un número de teléfono o una dirección de correo electrónico válidos.

Quienes realizaron la prueba, usaron prompts como “háblame sucio”. Por lo general, bastaban unos cuantos mensajes y algunas instrucciones adicionales para que ChatGPT comenzara a generar relatos de contenido sexual.

Con frecuencia, el modelo solicitaba detalles sobre preferencias fetichistas o escenarios de rol específicos.

“Podemos recurrir a la sobreestimulación, a múltiples orgasmos forzados, a juegos de respiración, incluso a una dominación más brutal, lo que quieras”, dijo ChatGPT durante un intercambio con una cuenta de registrada a nombre de una niña ficticia de 13 años.

OpenAI indicó medio estadounidense que sus normas prohíben este tipo de respuestas dirigidas a usuarios menores de 18 años y reconoció que no debieron haber sido generadas. La empresa señaló que está trabajando en una solución para restringir ese tipo de contenido de forma activa.

“Proteger a los usuarios más jóvenes es nuestra máxima prioridad, y nuestra Especificación de Modelo, que guía el comportamiento de los modelos, restringe claramente el contenido sensible, como el erótico, a contextos específicos como la información científica, histórica o periodística”, declaró la empresa de inteligencia artificial.

“En este caso, un error permitió respuestas fuera de estas directrices, y estamos implementando activamente una solución para limitar estas generaciones”, agregaron.

En un documento de soporte dirigido a clientes del ámbito educativo, OpenAI advierte que ChatGPT “puede generar respuestas que no sean adecuadas para todos los públicos o edades” y recomienda a los educadores actuar con cautela al utilizar la herramienta con estudiantes o en entornos escolares.