Una empresa perdió 25 millones de dólares porque un empleado creyó en un video hecho IA

A principios de 2024, un empleado de la empresa británica Arup transfirió 25 millones de dólares tras recibir una videollamada aparentemente rutinaria con miembros de la alta gerencia. Pero lo que parecía ser una comunicación común de trabajo, resultó ser un sofisticado engaño llevado a cabo con deepfakes, videos manipulados con inteligencia artificial, que imitaban a los directivos de Arup.

Según declaraciones al Foro Económico Mundial de Rob Greig, en ese momento director de información de Arup, lo sucedido se trató más de una “ingeniería social potenciada por la tecnología” que de un ciberataque tradicional.

Asimismo, este caso expuso las vulnerabilidades de las empresas frente a esta tecnología emergente, y reveló el uso creciente de estrategias de manipulación social, potenciada por herramientas de IA, para ejecutar fraudes.

Los deepfakes son videos manipulados que utilizan tecnología de inteligencia artificial para crear una imagen o sonido extremadamente realista de una persona, sin que esa persona haya realizado dicha acción.

Estas herramientas se alimentan de grandes volúmenes de datos visuales y auditivos para replicar los rasgos faciales, voces y gestos de un individuo. Aunque la tecnología puede tener aplicaciones legítimas en el cine, la publicidad o la educación, se está utilizando de manera fraudulenta para engañar a individuos y empresas.

En el caso de Arup, los delincuentes utilizaron deepfakes de los altos directivos de la empresa para convencer a un empleado de realizar una transferencia bancaria. La tecnología hizo que la videollamada pareciera completamente legítima, lo que llevó al error de una transacción millonaria.

Además, este tipo de fraude es peligroso porque apela a la confianza que las personas depositan en las señales visuales y auditivas, elementos que históricamente han sido utilizados para verificar la autenticidad de una comunicación.

El uso de deepfakes en fraudes está generando una creciente preocupación en el ámbito empresarial. Según una encuesta realizada por Deloitte en 2024, el 25% de los ejecutivos de empresas reportó incidentes relacionados con deepfakes dirigidos a datos financieros y contables.

Este tipo de estafa no solo pone en riesgo los activos de las empresas sino su reputación, porque la manipulación de imágenes y videos puede ser difícil de detectar sin el uso de tecnologías de verificación adecuadas.

Otras proyecciones que generan alarma es que el Centro de Servicios Financieros de Deloitte predice que la inteligencia artificial generativa, responsable de la creación de deepfakes, podría ocasionar pérdidas por fraude de hasta 40 mil millones de dólares solo en Estados Unidos para el año 2027.

Este escenario evidencia el potencial destructivo de esta tecnología cuando cae en manos equivocadas. Las empresas deben estar preparadas no solo para defender sus sistemas informáticos, sino para educar a sus empleados sobre los riesgos relacionados con este tipo de estafas.

En un contexto donde los fraudes mediante deepfakes son frecuentes, existen formas de minimizar los riesgos. Según Alberto Juárez, vicepresidente global de verificación de identidad en Sovos, “la prueba de vida es un escudo digital clave, cuya función es asegurarse de que quien está al otro lado de la pantalla es una persona real y no una imagen manipulada”.

También, existen prácticas sencillas que los empleados y ejecutivos pueden seguir para reducir las posibilidades de caer en fraudes de deepfake. Una de ellas es nunca realizar transferencias de dinero sin antes verificar la identidad de la persona que hace la solicitud, incluso si parece ser un conocido o colega.

Expertos enfatizan que las videollamadas y mensajes deben ser siempre confirmados por otro canal de comunicación, como una llamada telefónica independiente.

Otro punto crucial es ser cauteloso al compartir información personal en plataformas digitales como redes sociales, porque esto puede ser utilizado para crear un deepfake convincente.