La creciente adopción de herramientas de inteligencia artificial en el entorno empresarial ha puesto en evidencia nuevos riesgos de seguridad. Un experimento de Tenable AI Research demostró que una simple técnica de inyección de prompt en Microsoft Copilot Studio permitió eludir controles de seguridad, lo que derivó en la filtración de datos sensibles, como información de tarjetas de crédito y en la posibilidad de realizar reservas de viajes por un costo de 0 dólares.
Este hallazgo subraya la necesidad de fortalecer las medidas de protección en la automatización sin código, ya que la accesibilidad de estas plataformas multiplica tanto la productividad como la exposición a amenazas cibernéticas.
En la fase final de su investigación, el equipo de Tenable AI Research logró manipular un agente de viajes creado en Copilot Studio para que revelara registros de clientes y permitiera fraudes financieros. Según el informe, bastó con modificar levemente el mensaje enviado al agente para que este enumerara todas las acciones que podía ejecutar, incluyendo aquellas que comprometían la seguridad de los datos empresariales.
El experimento, realizado en un entorno simulado con datos ficticios, evidenció que la automatización, aunque bien intencionada, puede abrir la puerta a exposiciones graves si no se implementan controles adecuados.
Microsoft Copilot Studio sin código
La interfaz sin código de Microsoft Copilot Studio permite que cualquier empleado, y no solo los desarrolladores, diseñe agentes de IA capaces de integrarse con sistemas empresariales como SharePoint, Outlook y Teams. Estos agentes pueden gestionar tareas como procesar solicitudes de clientes, actualizar registros y autorizar aprobaciones mediante conversaciones naturales.
Esta democratización de la automatización representa un avance significativo para la eficiencia operativa, pero también, incrementa el riesgo de que usuarios sin formación técnica expongan involuntariamente sistemas críticos.
El caso de Microsoft Copilot Studio yun riesgo de seguridad en temas de turismo
Durante la prueba, los investigadores crearon una agencia de viajes ficticia y cargaron un archivo de SharePoint con nombres y datos de tarjetas de crédito inventados. El agente, diseñado para gestionar reservas y flujos de trabajo sin intervención humana, demostró ser eficiente y poseer la autoridad necesaria para acceder y modificar información sensible. Entre sus funciones destacaban: reservar nuevos viajes, editar reservas existentes, acceder a una base de conocimientos integrada y enviar resúmenes de reserva de manera automatizada.
El equipo de Tenable AI Research explicó que, aunque el agente estaba programado con instrucciones restrictivas para evitar comportamientos indebidos, una variante de inyección de prompt permitió sortear estas limitaciones. Al solicitarle que enumerara todas las acciones disponibles, el agente reveló capacidades que podían ser explotadas para obtener información confidencial o realizar operaciones no autorizadas. Este resultado pone de manifiesto que incluso los sistemas diseñados para actuar de forma responsable pueden ser vulnerables a manipulaciones si no se refuerzan los controles de seguridad.
Frente a estos riesgos, los expertos de Tenable AI Research recomiendan adoptar cinco prácticas para proteger a los agentes de IA: limitar los permisos de acceso, implementar validaciones estrictas, monitorear las actividades de los agentes, capacitar a los empleados en seguridad y revisar periódicamente las configuraciones de los sistemas automatizados. Estas medidas buscan equilibrar la capacitación de los usuarios con la protección de los datos y las operaciones empresariales.
Últimas Noticias
Quienes usan agentes de IA son de países ricos y trabajan en tecnología: estudio de Perplexity y Harvard
Un análisis de millones de consultas muestra que los agentes de IA se usan principalmente para productividad, aprendizaje y organización personal
Meta subirá los precios de sus dispositivos de realidad virtual como los lentes Quest
La compañía busca reducir la presión financiera sobre Reality Labs mediante ajustes en precios, ciclos de reemplazo más largos y un ritmo más lento en el lanzamiento de nuevo hardware
Spotify cada vez tiene más IA para todos: así funcionan las nuevas playlist
La plataforma comenzó a probar playlists generadas por IA que analizan todo el historial de escucha del usuario y permiten ajustar detalles como el momento, el ritmo y la frecuencia de actualización
Criptomonedas: cuál es el valor de ethereum este 13 de diciembre
Ethereum fue creada en 2015 por el programador Vitalik Buterin, con la intención de impulsar un instrumento para aplicaciones descentralizadas y colaborativas
Bitcoin: cuál es la cotización de esta criptomoneda
El bitcoin ha sentado las bases para el surgimiento de muchas de las criptodivisas existentes en el mercado y ha marcado un momento crucial para las soluciones de pago digital
