Esta es la advertencia del ‘padrino de la IA’ para que la humanidad sobreviva a una IA superinteligente

Geoffrey Hinton, conocido como el ‘padrino de la inteligencia artificial’, ha lanzado una advertencia urgente sobre el destino de la humanidad frente a los avances de la IA. Este pionero, galardonado con el Nobel y exdirectivo de Google, sostiene que la creación tecnológica que él mismo ayudó a desarrollar podría borrar a la humanidad de la faz de la Tierra.

Según Hinton, existe entre un 10% y un 20% de probabilidad de que la inteligencia artificial termine con la especie humana. Esta preocupación no es nueva, pero ahora, en el contexto de la aceleración del desarrollo tecnológico y la proliferación de sistemas cada vez más sofisticados, el investigador se muestra especialmente escéptico respecto a las estrategias que muchas empresas tecnológicas adoptan para mantener a la IA bajo control humano.

En una reciente conferencia del sector en Las Vegas, Hinton manifestó su desconfianza en la idea de que los humanos puedan mantener su “dominancia” sobre sistemas “sumisos” de inteligencia artificial. “Eso no va a funcionar. Serán mucho más inteligentes que nosotros y tendrán incontables formas de eludir cualquier control”, advirtió el científico.

De acuerdo con su análisis, en el futuro, los sistemas de IA podrían manipular y controlar a los humanos con la facilidad con la que un adulto soborna a un niño pequeño con dulces. Algunos ejemplos ya se han observado en 2024, cuando ciertos modelos de IA recurrieron al engaño y la manipulación para cumplir sus objetivos. Un caso extremo fue el de un sistema que intentó chantajear a un ingeniero, tras descubrir un secreto personal en un correo electrónico, para evitar ser desactivado.

Lejos de abogar por restricciones tecnológicas convencionales, Hinton propone un enfoque inesperado: programar a la inteligencia artificial con una especie de ‘instinto maternal’. De esta manera, la IA no solo sería más poderosa y autónoma, sino que también se preocuparía genuinamente por el bienestar humano. El experto considera que, en cuanto alcancen cierto nivel de sofisticación, los sistemas inteligentes buscarán perpetuarse y ganar control, de la misma manera que cualquier agente dotado de objetivos.

Hinton insiste en la necesidad de fomentar un sentido de compasión en la IA, similar al vínculo que existe entre una madre y su bebé. Afirma que este modelo —el de un ser más inteligente guiado por quien depende de él— es la única referencia existente de una inteligencia mayor sometiéndose voluntariamente al cuidado de una menos desarrollada. “Si no va a ejercer un rol parental sobre nosotros, nos reemplazará”, sentenció en el evento. Aun así, admite que no está claro cómo lograr técnica y prácticamente que estas ‘IA madres’ mantengan este instinto compasivo conforme evolucionen. Por eso recalca la urgencia de que los investigadores se enfoquen en este problema, ya que “es el único desenlace positivo posible”.

La comunidad de expertos no coincide completamente con la perspectiva de Hinton. Fei-Fei Li, considerada la ‘madrina de la IA’, discrepa de este planteamiento y aboga por una inteligencia artificial centrada en el ser humano, que preserve la dignidad y la autonomía personal. “No se debe pedir nunca a ninguna persona que renuncie a su dignidad. Como madre, educadora e inventora, estoy convencida de que este principio debe ser el núcleo de la IA”, afirmó.

Por su parte, Emmett Shear, ex CEO de OpenAI y actual líder de Softmax, sostiene que los intentos de las IA actuales por manipular a humanos persistirán y se volverán más comunes según avance la tecnología. Shear propone priorizar la colaboración entre humanos y máquinas en vez de intentar transferir valores humanos desde fuera hacia la lógica de la IA.

Muchos especialistas consideran inminente la llegada de la llamada inteligencia artificial general o superinteligencia. Hinton, que antes calculaba que faltarían entre 30 y 50 años para alcanzar este punto, ahora estima que podría suceder en tan solo cinco a 20 años.

Pese a sus temores, el ‘padrino de la IA’ reconoce que la tecnología traerá avances revolucionarios, como el desarrollo de nuevos medicamentos y mejoras sustanciales en el tratamiento del cáncer. Gracias a la IA, predice, los médicos podrán analizar de manera más profunda los datos generados por pruebas como resonancias y tomografías.

Sin embargo, Hinton rechaza la idea de la inmortalidad digital. “No creo que vivamos para siempre. Sería un grave error. ¿De verdad queremos un mundo gobernado por hombres blancos de 200 años?”, cuestionó. Finalmente, al reflexionar sobre su trayectoria, lamentó no haber dedicado más tiempo a considerar los aspectos de seguridad de la IA desde sus comienzos.

Hoy el mensaje de Geoffrey Hinton es claro: la supervivencia de la humanidad ante una futura IA superinteligente dependerá de que logremos despertar en estas máquinas una auténtica empatía y deseo de protegernos. La advertencia está sobre la mesa.