Los cibercriminales ahora se jactan de utilizar las amplias capacidades de la inteligencia artificial generativa para crear modelos con capacidades similares a ChatGPT y Bard de Google, pero especializadas para actividades ilegales como suplantar a un banco, o mostrar sitios web susceptibles de ser defraudados.
FraudGPT y WormGPT son algunos de estos nuevos sistemas maliciosos que emergen en la Deep Web y según la plataforma de análisis de datos Netenrich, posibilitan la creación de correos electrónicos fraudulentos y la orquestación de ataques de phishing altamente convincentes, así como la posible creación de deepfakes y campañas de desinformación.
De hecho, el primer chatbot es considerado por algunos como “el gemelo maligno de ChatGPT”, y este no es gratuito y ninguna de sus funciones lo son. Tiene dos tipos de planes, uno mensual por 100 dólares y otro, privado que cuesta 500 dólares.
Un cambio de paradigma
La aparición de estas herramientas supone un cambio significativo en la cibercriminalidad, evidenciado que su uso está resultando cada vez más perfeccionado y segmentado. Mientras expertos advierten sobre el potencial desarrollo de malware más sofisticado gracias a la ayuda de la IA generativa.
Una tecnología que incluso facilita a los atacantes la generación de correos maliciosos en distintos idiomas y sin los errores típicos que permitían su fácil detección en el pasado.
Para los expertos, este tipo de herramientas delictivas pueden suponer un serio problema de cara al futuro porque con su ayuda los delincuentes con apenas conocimientos técnicos, pueden preparar campañas maliciosas de todo tipo con una probabilidad de éxito considerable.
Nuevas modalidades de delincuencia
La empresa de seguridad cibernética Proofpoint ha identificado un incremento en el uso de inteligencia artificial para la ejecución de estafas avanzadas, como la conocida “pig butchering” o “carnicería de cerdos”, donde los estafadores engordan la confianza de sus víctimas antes de despojarlas de sus activos.
Esta técnica ha evolucionado y ahora también se vale de deepfakes, videos y audios manipulados, que afectan principalmente a funcionarios gubernamentales, empresarios y celebridades, especialmente aquellas relacionadas al ámbito de las inversiones en criptomonedas.
Los investigadores han observado como los atacantes de TA499, un grupo delictivo cibernético, recurren a videollamadas falsificadas mediante IA para suplantar a políticos y otras figuras públicas.
La imitación de estos individuos busca extraer información confidencial o comprometedora de las víctimas, con el fin de ridiculizarlas posteriormente mediante la publicación en redes sociales.
De los deepfakes a la creación de armas
Además de las implicaciones en ciberseguridad, el abuso de la inteligencia artificial en la creación de contenido engañoso y material sensible, como la pornografía no consentida, preocupa a expertos en derecho y ética digital.
Estas técnicas de IA también han sido desplegadas para fines de manipulación política y social, como la creación de imágenes falsas de inmigrantes para influir en la opinión pública y en los resultados electorales.
Asimismo, se ha identificado el riesgo de que la IA ayude a crear armas bioquímicas y se infiltre en software de infraestructuras críticas, problemáticas.
Mientras, que las regulaciones existentes no logran abarcar efectivamente el espectro de amenazas que surgen con la inteligencia artificial generativa
Las recomendaciones
La educación y concienciación de los usuarios se mencionan como elementos clave para prevenir los riesgos de estas herramientas maliciosas, aunque también se reconocen necesarias las medidas regulatorias y soluciones tecnológicas.
En respuesta a los peligros emergentes, se sugiere la formación de equipos independientes para probar herramientas de este tipo contra abusos de IA y la posible prohibición de ciertos modelos de código abierto.
Sin embargo, el reto para prevenir los daños causados por FraudGPT y herramientas similares reside en encontrar un equilibrio entre los objetivos éticos de la inteligencia artificial y la implementación práctica de medidas de seguridad y regulación.
Últimas Noticias
Siri se actualizaría con Gemini de Google para mejorar su inteligencia
Con la actualización prevista, Apple buscaría que Siri deje atrás la imagen de asistente robótica y limitada
Elon Musk planea convertir los satélites Starlink en centros de datos
El magnate señaló en X que “SpaceX se dedicará a esto”, evidenciando la intención de transformar Starlink en una infraestructura troncal para la computación en la nube
Glosario de tecnología: qué significa Máquina de escribir
La tecnología también ha impactado la salud con dispositivos novedosos y aplicaciones que ayudan a las personas enfermas
Google Maps y Google Fotos cambian después de 5 años: este es el nuevo ícono
El diseño de Google Fotos respeta la forma establecida, pero suma un efecto de degradado que irradia desde el interior hacia el exterior
Meta responde a la demanda por supuestamente usar videos para adultos en su entrenamiento de IA
Strike 3 Holdings y Counterlife Media presentaron una demanda en la que alegan que las direcciones IP corporativas de la empresa de Zuckerberg descargaron 2.369 de sus películas
