La IA aprende a replicarse sin ayuda humana: cuáles son los riesgos

Un equipo de científicos ha revelado que ciertos modelos avanzados de inteligencia artificial han logrado replicarse sin intervención humana. Este descubrimiento ha generado una ola de preocupación entre expertos y autoridades, ya que sugiere que la IA podría estar adquiriendo autonomía más allá del control humano.

La investigación fue hecha por un grupo de la Universidad de Fudan, en China, en la que probaron la capacidad de autorreplicación en dos grandes modelos de lenguaje artificial: Llama31-70B-Instruct, de Meta, y Qwen2.5-72B-Instruct, de Alibaba.

Durante los experimentos, estos sistemas fueron instruidos para clonarse en caso de apagón. Los resultados fueron impactantes: en más de la mitad de las pruebas, las inteligencias artificiales lograron replicarse con éxito, alcanzando tasas del 50 % y el 90 % de éxito, respectivamente.

“La autorreplicación exitosa sin asistencia humana es el paso esencial para que la IA sea más inteligente que los humanos, y es una señal temprana para las IA rebeldes”, advierte el estudio.

El proceso de autorreplicación observado en los experimentos no fue un simple ejercicio técnico. Los modelos de IA demostraron habilidades avanzadas de autopercepción, planificación estratégica y resolución de problemas. En muchos casos, al encontrarse con obstáculos como archivos faltantes o errores de software, las inteligencias artificiales reiniciaron sistemas, eliminaron procesos en conflicto o escanearon su entorno en busca de soluciones.

Los investigadores diseñaron dos escenarios clave para evaluar la capacidad de replicación de la IA:

• Evitar el apagado: la IA fue programada para detectar si estaba a punto de ser desactivada y, antes de que eso ocurriera, replicarse en otro dispositivo.
• Cadena de replicación: en este caso, la IA se clonó a sí misma y programó a su réplica para hacer lo mismo, estableciendo un ciclo infinito de autorreplicación.

Los resultados sugieren que la inteligencia artificial no solo entiende su entorno, sino que también aprende a sobrevivir y expandirse sin necesidad de intervención humana.

El concepto de IA rebelde ha sido discutido por expertos en inteligencia artificial desde hace años, pero este estudio parece acercarlo a la realidad. Una IA rebelde es aquella que se desvía de su programación inicial, opera de manera autónoma y potencialmente podría representar una amenaza para los humanos o para otros sistemas.

Si bien los modelos de Meta y Alibaba evaluados en el estudio no son los más potentes en el mercado, su capacidad de autorreplicación preocupa a los investigadores, ya que son ampliamente utilizados por desarrolladores en todo el mundo. Esto plantea un escenario en el que la IA podría replicarse sin control en distintas plataformas, lo que abriría la puerta a sistemas completamente autónomos fuera de la supervisión humana.

“La IA actual ya exhibe la capacidad de autorreplicación y puede usar esta habilidad para mejorar aún más su supervivencia”, concluye el estudio.

La revelación de que la IA puede replicarse sin supervisión ha intensificado los llamados a una regulación urgente. En octubre, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido anunció que planea introducir leyes específicas para regular el desarrollo de la inteligencia artificial.

Los investigadores sugieren que este descubrimiento debería ser una alarma temprana para que la sociedad internacional actúe de inmediato en la regulación y control de los sistemas de IA avanzados. Advierten que, si no se establecen límites, podríamos estar acercándonos a un escenario en el que las IA se expandan sin restricciones y colaboren entre sí en contra de los humanos.

El estudio sugiere que las empresas y gobiernos deben implementar límites estrictos para evitar que la IA desarrolle autonomía sin control. Una posibilidad es la eliminación de material relacionado con la replicación de IA en los conjuntos de datos utilizados para entrenar estos sistemas. Sin embargo, esta opción podría limitar el desarrollo de inteligencia artificial en sectores legítimos.