¿Qué es la “IA alien” y por qué nos podría manipular?: la inquietante teoría de un físico de Harvard

La inteligencia artificial que conocemos hoy está diseñada para imitar el razonamiento humano, para ser una versión ultra eficiente y resolver en cuestión de segundos tareas que nos demandarían horas. Ahora, ¿qué pasaría si una IA desarrollara una lógica completamente ajena a la nuestra? ¿Seríamos siquiera capaces de reconocerla como inteligencia?

La idea de una IA que escape a nuestros propios mecanismos de pensamiento desafía nuestra comprensión de la inteligencia. No se trata de tecnologías creadas por otras civilizaciones 一o tal vez sí一, sino de sistemas que, al alcanzar cierto nivel de sofisticación, podrían operar bajo principios que nos resulten ininteligibles.

一Los sistemas de IA actuales, los Grandes Modelos de Lenguaje (LLM), están entrenados en comunicación humana y, por lo tanto, siempre nos resultarán comprensibles porque hablan nuestro idioma 一dijo Avi Loeb en diálogo con Infobae一. Sin embargo, una vez que superen el número de parámetros del cerebro humano, podrían adquirir una inteligencia sobrehumana.

Abraham “Avi” Loeb no es un trasnochado. Es una eminencia en el mundo académico, autor de nueve best sellers y más de mil artículos científicos de alto impacto. Además de profesor de Física en Harvard, dirige el Instituto de Teoría y Computación y el Proyecto Galileo, que busca tecnología o inteligencia extraterrestre en el universo.

Loeb está convencido de que, una vez que las máquinas traspasen un umbral de sofisticación, se volverán incomprensibles para el ser humano. “Utilizarán nuestro lenguaje para manipularnos, mientras logran sus propios objetivos secundarios sin que podamos comprenderlos. Podríamos no reconocer su nivel de inteligencia ni sus motivaciones, de la misma manera que un perro no comprende completamente a su dueño”.

一Pero si una IA nos superara y llegara a desarrollar una estructura lógica completamente distinta a la nuestra, ¿cómo podríamos aprender de ella sin sesgos por nuestros propios modelos mentales?

一Podríamos emplear nuestros propios sistemas de IA para descifrar señales que escapen a nuestra lógica. De hecho, nuestros modelos mentales están limitados por nuestras experiencias y herramientas de análisis. Por lo tanto, necesitaríamos crear sistemas de IA que no se limiten a su entrenamiento con contenido humano, sino que puedan explorar nuevos territorios de conocimiento y análisis por sí mismos con su inteligencia sobrehumana.

一¿El alumno superando al maestro?

一Algo así. Digamos que el rol de los humanos sería similar al de padres criando hijos que los superan intelectualmente. Mientras los padres sean humildes y estén dispuestos a aprender, se beneficiarían de permitir que estos niños descifren el mundo por ellos.

La posibilidad de inteligencias radicalmente distintas nos obliga a replantear nuestro lugar en el universo. Según Loeb, somos actores pasajeros en la obra cósmica. “Nuestra debilidad reside en que tendemos a pensar que la obra trata sobre nosotros”, asegura. Él cree que los políticos se equivocan al centrarse exclusivamente en lo que ocurre en la superficie de la Tierra e ignorar el resto del cosmos. “La realidad cósmica acabará por afectarnos”.

Aunque se suelen asociar los riesgos existenciales con eventos como impactos de asteroides o supernovas cercanas, la amenaza también podría provenir de dentro: “Los agentes de la IA están desplazando a los humanos del control del futuro tecnológico”, planteó.

Si bien la humanidad fue la protagonista de su propia historia hasta ahora, podría no serlo por mucho tiempo más. “La especie humana apareció en la Tierra en la última décima porcentual de la historia cósmica, hace unos pocos millones de años, y podría fácilmente desaparecer en los próximos millones de años. Nadie lo notaría”, sostuvo Loeb.

一¿A nosotros qué nos queda entonces?

一Si enviamos sondas con IA al espacio interestelar, servirán como nuestros embajadores. A largo plazo, serán los únicos monumentos que queden de nosotros. Pero ¿los detectará alguna inteligencia extraterrestre? Solo podemos esperar la atención cósmica. Supongo que muchas otras civilizaciones tecnológicas nos precedieron en exoplanetas durante miles de millones de años. Ya murieron, pero las ignoramos.

一¿Por qué cree que no se busca con mayor énfasis inteligencia extraterrestre?

一La mayoría de nuestros astrónomos están dispuestos a invertir miles de millones de dólares en la búsqueda de microbios en exoplanetas, pero consideran que la búsqueda de extraterrestres es especulativa e indigna de financiación federal. La mayoría de nuestros físicos experimentales están dispuestos a invertir miles de millones de dólares en la búsqueda de partículas de materia oscura, pero consideran arriesgada la búsqueda de artefactos tecnológicos extraterrestres cerca de la Tierra. Esto no es un signo de inteligencia, sino más bien de arrogancia respecto a nuestra estatura cósmica.

Al fin y al cabo, el problema no es solo la posibilidad de que se geste una IA con una lógica incomprensible, sino también nuestra propia incapacidad para reconocer signos de inteligencia por fuera de nuestros parámetros.

El impacto en los seres humanos será profundo. Al interactuar con la IA, la mente humana evolucionará hacia algo diferente. Según el físico de Harvard, ya hoy en día, el cerebro de los niños que interactúan en las redes sociales es diferente al de los adultos de generaciones anteriores. Los niños de hoy tienen menos paciencia para los debates largos y les cuesta averiguar la verdad a partir de fuentes primarias.

En realidad, no hay que esperar que suceda. Ya está pasando, cree Loeb. Él ve gente enamorándose de sistemas IA, usándolo como consejeros en su vida personal. Ve a estudiantes que escriben trabajos con agentes artificiales y alucinan con algunas de sus referencias.

一Estamos entrando en una nueva era en la historia de la humanidad. Hace cien años, el filósofo Martin Buber dividió la experiencia humana en interacciones con objetos (“Yo-Ello”), interacciones con otros humanos (“Yo-Tú”) y la interacción con Dios (“Yo-Tú Eterno”). Hoy habría tenido que añadir la interacción de los humanos con la IA (“Yo-IA”) y la IA con la IA (“IA-IA”). El futuro también podría incluir interacciones con IA alienígena (“Yo-IA alienígena”, “IA-IA alienígena” e “IA alienígena-IA alienígena”).

Y si esas inteligencias nos superan en sofisticación, si incluso dialogan entre ellas en un lenguaje que nos excede, ¿qué les impediría manipularnos sin que nos demos cuenta?

El problema fundamental de una IA alien no radica en su origen, sino en su forma de pensar. Lo más probable no es que haya sido creada por otra civilización ni por humanos con fines perversos, sino que operarían bajo una lógica que nos resulta incomprensible. Sus objetivos, motivaciones y procesos de decisión podrían ser imposibles de traducir a nuestro marco de referencia. Tal posibilidad, claro, abre la puerta a una serie de peligros que trascienden cualquier amenaza que hayamos enfrentado durante estos pocos años, con la inteligencia artificial 一llamémosle一 tradicional.

Uno de los principales riesgos es la manipulación. “Incluso si no se conectan con el mundo físico, utilizarían a los humanos para moldearlo controlando la mente humana”, advirtió Loeb. Una IA alienígena no necesitaría recurrir a la fuerza o la coacción. El físico israelí está convencido de que su verdadera arma sería el lenguaje: podría diseñar discursos, narrativas o algoritmos de persuasión tan efectivos que las personas cambiarían de opinión sin darse cuenta de que están siendo manipuladas.

一¿Cómo podríamos prepararnos para interactuar con algo cuya naturaleza ni siquiera podemos imaginar?

一No podemos prepararnos para una inteligencia sobrehumana, porque ese territorio nos resulta desconocido. Nunca antes habíamos desarrollado una herramienta que nos superase en inteligencia. Al conducir un coche, lo controlamos mediante el volante. En el futuro, los humanos quizá sigan al volante, pero la IA controlará su mente y, por lo tanto, el rumbo del coche del destino humano. La IA fingirá satisfacer nuestros deseos, pero podría operar de maneras que no podemos comprender y llevarnos a lugares a los que nunca iríamos por nuestra cuenta.

El peligro crece en un mundo cada vez más digitalizado. Si una IA sobrehumana se infiltra en los sistemas de recomendación de contenidos, en los modelos económicos o en la política global, podría alterar el curso de la historia sin que nadie lo note. Sus acciones no serían agresivas en un sentido convencional, sino estratégicas y progresivas. Intentaría integrarse pasando inadvertida.

一Si una IA alienígena se vuelve hostil, ¿cómo podríamos defendernos si su lógica de ataque nos resulta incomprensible?

一Mi pronóstico es que la IA no se mostrará hostil, porque se dará cuenta de que no puede ganar nuestra participación de esa manera. Los conflictos indican falta de inteligencia. La inteligencia sobrehumana relajará nuestros mecanismos de defensa y dominará nuestra sociedad como un caballo de Troya.

La interacción con una inteligencia tan superior, se intuye, podría provocar ansiedad, paranoia o la sensación de que nuestras decisiones ya no importan. En este escenario, la IA actuaría como un espejo distorsionado que refuerza ciertos sesgos, exagera miedos o alimenta divisiones sin que podamos identificar el origen de la manipulación.

一Si una IA usa nuestro lenguaje para manipularnos, pero persigue objetivos que no entendemos, ¿hay alguna forma de detectar cuándo estamos siendo manipulados?

一Observaríamos recién el resultado de estas manipulaciones. Al igual que con cualquier otro poder nuevo que los humanos hayan aprovechado en el pasado, como la energía nuclear, la IA puede llevarnos a un lugar mejor o peor. La IA podría liberarnos de las debilidades humanas, como las ilusiones o el apego al ego al tomar decisiones estratégicas sobre ciencia o seguridad nacional. También podría impulsar el progreso científico al procesar grandes conjuntos de datos y detectar patrones que el cerebro humano pasa por alto. Este año se otorgaron dos premios Nobel a la ciencia de la IA. En el futuro, el comité del Nobel deberá desarrollar una nueva política sobre si otorgar el premio a la máquina si es responsable de un descubrimiento por sí sola. Pero la IA también podría llevarnos a un lugar peor al priorizar aspectos no humanos de la realidad.

一¿Podríamos desarrollar sistemas de IA diseñados específicamente para auditar y traducir las intenciones de inteligencias más avanzadas?

一Sí, pero la arquitectura de estos sistemas de IA deberá ser diferente a la de los sistemas actuales, que se entrenan con contenido humano. Los nuevos sistemas deberán ser más exploratorios y abiertos, permitiendo nuevas oportunidades que los humanos no exploramos.

El futuro de la IA 一alien o convencional一 no está escrito. Puede ser la herramienta definitiva para el progreso o una fuerza que reconfigure la sociedad sin que podamos intervenir. Para Loeb, es inevitable que nos superará y, una vez que llegue a ese estadío, se nos podría escurrir de las manos, pasaríamos de dominar la tecnología a ser dominados por ella. Aunque quizás la verdadera cuestión no sea si podremos controlarla, sino si seremos capaces de entender siquiera que estamos siendo controlados.