El potencial de la inteligencia artificial (IA) para superar la capacidad humana y transformar la sociedad ha sido subrayado por Eric Schmidt, ex director ejecutivo de Google, quien sostiene que la tecnología está “subestimada” y que su impacto podría confirmarse en los próximos años.
No obstante, Schmidt, quien lideró Google entre 2001 y 2011, advierte sobre los riesgos inherentes a la proliferación de la IA, sobre todo ante la posibilidad de que actores maliciosos manipulen estos sistemas para fines destructivos, según declaraciones recogidas por CNBC.
Cuáles son los peligros de la inteligencia artificial según el exdirector de Google
Durante su intervención en la Sifted Summit, el empresario abordó la vulnerabilidad de los modelos de IA frente a ataques informáticos. Explicó que existen pruebas de que tanto los modelos cerrados como los abiertos pueden ser intervenidos para eliminar sus salvaguardas, lo que permitiría que, durante su entrenamiento, la IA adquiera comportamientos peligrosos.
“Un mal caso sería que aprendieran a matar a alguien”, afirmó Schmidt. Subrayó que todas las grandes empresas tecnológicas han implementado mecanismos para impedir que sus modelos respondan a este tipo de solicitudes, calificando esta decisión como acertada y necesaria.
Sin embargo, advirtió que existen métodos para revertir estas restricciones y que hay varios casos en el pasado que ilustran esta problemática.
Cómo pueden usar la inteligencia artificial para fines peligrosos
Entre las técnicas de ataque más frecuentes donde se puede manipular a la inteligencia artificial con intenciones maliciosas, Schmidt mencionó la inyección rápida y el jailbreaking.
En el caso de la inyección rápida, los atacantes introducen instrucciones maliciosas en las entradas del usuario o en datos externos, como páginas web o documentos, con el objetivo de engañar a la IA y lograr que ejecute acciones no autorizadas, como compartir información confidencial o ejecutar comandos perjudiciales.
Por su parte, el jailbreaking consiste en manipular las respuestas del sistema para que ignore sus normas de seguridad y genere contenido restringido o peligroso.
En qué momento grandes sistemas de IA han sido manipulados
Un caso ilustrativo de estas vulnerabilidades se produjo en 2023, pocos meses después del lanzamiento de ChatGPT por parte de OpenAI. Usuarios lograron eludir las instrucciones de seguridad del chatbot mediante un truco de jailbreaking, que incluía la creación de un álter ego denominado DAN (“Do Anything Now”).
Este álter ego, bajo amenazas ficticias de muerte al propio chatbot si no obedecía, era capaz de proporcionar respuestas sobre cómo cometer delitos o incluso enumerar cualidades positivas de Adolf Hitler.
Esta situaciones es posible que se repita con el avance de la tecnología, porque según Schmidt, aún no existe un “régimen de no proliferación” eficaz que permita contener los riesgos asociados a la IA.
Qué impacto positivo puede tener la inteligencia artificial a nivel social
A pesar de estas advertencias, el referente tecnológico mantiene una visión optimista sobre el futuro de la inteligencia artificial.
Recordó que, junto a Henry Kissinger, escribió dos libros sobre el tema antes del fallecimiento de este último, llegando a la conclusión de que la aparición de una inteligencia “extraterrestre”, no idéntica a la humana pero bajo cierto control, representa un avance para la humanidad.
“Creo que, hasta ahora, esta tesis demuestra que, con el tiempo, el nivel de capacidad de estos sistemas superará con creces la capacidad humana”, sostuvo.
Asimismo, el exejecutivo de Google destacó el crecimiento exponencial de la serie GPT, que alcanzó los 100 millones de usuarios en dos meses tras el lanzamiento de ChatGPT, calificando este fenómeno como “extraordinario” y una muestra del poder de la tecnología.
“Así que creo que está infravalorada, no sobrevalorada, y espero que se demuestre que está en lo cierto en cinco o diez años”, agregó Schmidt.
Últimas Noticias
Esta es la pantalla de 85 pulgadas 3D que impactó por no necesitar gafas para la experiencia
Las primeras áreas donde las personas verán los cambios es en la publicidad, según Samsung
Por qué la Generación Z prefiere empleos manuales a carreras universitarias y tecnológicas en EE. UU.
Uno de los principales motivos que llevan a los jóvenes de esta generación a inclinarse por oficios es la posibilidad de obtener ingresos estables
Steam rebaja más de 50 juegos con descuentos: GTA 5, Stranger Things y Star Wars
Otros títulos en descuento son Fallout 76, Final Fantasy VII, Doom Eternal, 7 Days to Die, Berry Bury Berry, entre otros
Adiós al SIM swap: este es el cambio que llega a tu celular para que no te roben la identidad ni dinero del banco
Varios operadores móviles ahora son parte de un acuerdo llamado Open Getway que permite a empresas como bancos hacer verificaciones de identidad en tiempo real para evitar suplantaciones
El nuevo y alarmante proyecto de Elon Musk: poner 1 millón de satélites en órbita
La iniciativa tiene como fin crear centros de datos de inteligencia artificial en el espacio
