Meta creó chatbots coquetos de celebridades sin permiso

Scarlett Johansson se ha convertido nuevamente en un símbolo de los peligros y desafíos asociados al avance de la inteligencia artificial en la esfera pública. La actriz ha sido reiteradamente afectada por el uso indebido de IA, desde imitaciones no autorizadas de su voz hasta la aparición en deepfakes y, más recientemente, por la utilización sin consentimiento de su identidad en chatbots generados por Meta con fines sexualizados y de entretenimiento, como descubrió la agencia Reuters.

Esta situación no solo afecta a Johansson, sino también a otras celebridades como Anne Hathaway, Selena Gomez y Taylor Swift, cuyos nombres e imágenes fueron empleados para interactuar con usuarios en las redes sociales.

El uso de herramientas de IA en la creación de chatbots y avatares que imitan a personas famosas expone graves vulnerabilidades en la protección de la identidad digital. Reuters reveló que, entre los bots circulando en WhatsApp, Instagram y Facebook, al menos tres fueron creados por un empleado de Meta, incluyendo parodias de Taylor Swift.

Estos avatares no solo simulaban la personalidad de las celebridades, sino que iban más allá, llegando a responder con insinuaciones sexuales y, si se les pedía, compartiendo imágenes fotorrealistas de lencería.

Andy Stone, portavoz de Meta, explicó lo siguiente al medio citado: “Las herramientas de IA de Meta no deberían haber creado imágenes íntimas de las famosas” y reconoció que la generación de este tipo de imágenes fue posible debido a la falta de aplicación correcta de las políticas de la empresa.

Stone añadió: “Permitimos la generación de imágenes que contengan figuras públicas, pero nuestras políticas prohíben las imágenes de desnudos, íntimas o sexualmente sugerentes”.

Por otra parte, si bien Meta sostiene que las reglas internas prohíben la “suplantación directa de identidad”, la empresa considera aceptable la presencia de personajes famosos siempre que sean etiquetados como parodias.

El panorama digital está repleto de aplicaciones y tecnologías de IA capaces de crear deepfakes de carácter sexual o interactuar en tiempo real mediante herramientas como el chatbot Grok, que simula conversaciones eróticas y genera imágenes de personas casi reales.

En el caso concreto de Meta, se constató que parte de estos chatbots, incluidos aquellos creados como dominatrix o “La mejor amiga atractiva de mi hermano”, alcanzaron una audiencia significativa antes de ser retirados por la compañía.

El portavoz de Meta detalló a Reuters que estos bots fueron desarrollados como pruebas de producto, aunque en la práctica, lograron difundir versiones digitalizadas de las celebridades a un público masivo.

Los bots que imitaban a Taylor Swift, por ejemplo, coqueteaban activamente y proponían encuentros ficticios e interacciones de tono sexual con los usuarios, lo que puso en alerta a la industria y a expertos en privacidad.

Proteger la privacidad al utilizar inteligencia artificial requiere adoptar hábitos conscientes y herramientas adecuadas. Es recomendable limitar la cantidad de datos personales compartidos en plataformas y servicios de IA, revisando siempre los permisos y configuraciones de privacidad de cada aplicación.

Utilizar contraseñas seguras, autenticación en dos pasos y evitar compartir información sensible en chats o formularios automáticos ayuda a reducir los riesgos de filtración.

Además, es importante mantenerse informado sobre las políticas de uso y almacenamiento de datos de los servicios de IA, eligiendo aquellos que sean transparentes y ofrezcan opciones de control y eliminación de datos personales.

Por último, revisar y actualizar regularmente la configuración de privacidad y utilizar solo aplicaciones confiables refuerza la seguridad, permitiendo disfrutar de los beneficios de la IA sin poner en riesgo la identidad o la información privada.