La inteligencia artificial aplicada a la gestión gubernamental: entre oportunidades y desafíos

En los últimos años, la inteligencia artificial (IA) ha evolucionado rápidamente, abriendo nuevas posibilidades para sectores tan diversos como la educación, la medicina, e incluso el gobierno. Sin embargo, su implementación en este último ámbito plantea interrogantes sobre la forma en que estas herramientas impactarán la gestión pública.

Según New Scientist, con el uso creciente de modelos de lenguaje de gran escala (LLMs), como ChatGPT, en distintos países, surge una pregunta crucial: ¿puede la IA transformar verdaderamente el estado? Y más importante aún, ¿estamos listos para asumir los riesgos y las implicaciones de su uso?

El debate sobre qué constituye la inteligencia artificial real comenzó en la década de 1950 con la famosa pregunta de Alan Turing: “¿Pueden las máquinas pensar?”. A pesar de los avances tecnológicos, no existe una respuesta clara a esa cuestión.

Modelos como ChatGPT, que han ganado popularidad en los últimos años, presentan respuestas convincentes en una variedad de campos. Sin embargo, muchos expertos coinciden en que estos sistemas no son realmente inteligentes, sino que son herramientas que procesan y replican patrones de información de manera avanzada, pero carecen de la capacidad de pensar o razonar de manera autónoma.

En países como el Reino Unido y los Estados Unidos, el uso de IA en el gobierno está empezando a ganar terreno. En el Reino Unido, Peter Kyle, secretario de Estado para la Ciencia, Innovación y Tecnología, utilizó ChatGPT para consultar sobre temas triviales como qué podcasts podría escuchar.

Aunque no se utilizó para decisiones políticas de gran calado, el hecho de que sus interacciones con la IA fueran registradas y reveladas mediante leyes de libertad de información (FOI) generó gran sorpresa.

Este incidente sugiere que algunos funcionarios gubernamentales podrían estar tratando la IA más como una herramienta de consulta confiable, lo cual es preocupante, ya que los LLMs son conocidos por generar respuestas erróneas o sesgadas.

Por otro lado, en Estados Unidos, la administración Trump ha impulsado la implementación de un chatbot llamado GSAi dentro del Departamento de Eficiencia Gubernamental, buscando sustituir a empleados federales con IA.

Este tipo de iniciativas, aunque parecen ofrecer eficiencia, también han abierto el debate sobre la automatización en el sector público y la posible deshumanización de la gestión estatal.

A pesar de la fascinación que generan, los LLMs no son infalibles. Como se ha señalado en varios estudios, estos modelos pueden ofrecer respuestas convincentes pero erróneas, reflejando las limitaciones y sesgos inherentes a los datos con los que fueron entrenados.

Esto plantea un serio desafío cuando se consideran para tareas gubernamentales, donde la precisión y la imparcialidad son esenciales. Actualmente, los LLMs no son una alternativa viable a la inteligencia humana en la toma de decisiones críticas, ya que sus respuestas no son fiables de manera consistente.

Uno de los grandes sueños de la IA es la creación de una Inteligencia Artificial General (AGI), una forma de inteligencia que iguale o incluso supere las capacidades humanas. Sin embargo, la mayoría de los expertos en el campo consideran que no estamos cerca de lograr este objetivo.

En una reciente encuesta entre investigadores de IA, el 76% de los participantes dijo que era “poco probable” que los enfoques actuales de IA lograran la AGI. La mayoría coincide en que, por el momento, los LLMs no son el camino hacia una IA que pueda pensar y razonar como un ser humano.

En lugar de seguir buscando la AGI, algunos investigadores proponen un cambio de perspectiva sobre la IA. En un artículo publicado en la revista Science, un grupo de científicos sugiere que los LLMs no deben ser vistos como agentes inteligentes, sino como una nueva tecnología cultural y social que permite a los humanos aprovechar la vasta información acumulada por otros.

Este enfoque resalta que la IA no debe sustituir a los seres humanos, sino que debe ser vista como una herramienta que ayude a organizar y gestionar la información de manera más eficiente, similar a otras tecnologías revolucionarias en la historia, como la escritura y la imprenta.

La rápida implementación de herramientas de IA en el gobierno también plantea preguntas éticas y legales. Una de las principales inquietudes es si las interacciones con herramientas como los chatbots deben estar sujetas a las leyes de libertad de información (FOI).

En el caso del Reino Unido, el acceso público a las interacciones de los ministros con ChatGPT ha planteado interrogantes sobre la transparencia en el uso de IA para la toma de decisiones gubernamentales.

Los legisladores y expertos en privacidad de datos advierten que es necesario establecer límites claros para proteger la integridad de la deliberación política y evitar que la IA se convierta en un sustituto inapropiado de la consulta humana.