Estados Unidos.- La Inteligencia Artificial (IA) está entrenando en una nueva etapa en la cual ya no solo sirve para automatizar tareas o generar contenido, sino que recientemente se está utilizando para realizar ciberataques Investigadores de Google aseguraron haber detectado el primer exploit zero-day creado por medio de la IA, un descubrimiento que marca un nuevo escenario en la ciberseguridad mundial.
¿Qué buscaba obtener el primer ciberataque creado con IA?
El descubrimiento fue realizado por el equipo de Google Threat Intelligence Group (GTIG), especializado en amenazas informáticas. Según explicó la compañía en un informe de seguridad, el ataque consistió en un script diseñado en Python con el objetivo de vulnerar la Autenticación en Dos pasos (2FA) de una conocida herramienta de administración web de código abierto.
Google detecta primer ciberataque desarrollado completamente con IA
El exploit buscaba saltarse la segunda capa de seguridad utilizada para proteger cuentas y sistemas, lo que permitiría a los atacantes acceder incluso a cuentas incorrectas. Google señaló que logró trabajar en conjunto con el proveedor afectado para detener la campaña antes de que se realizara el ataque masivo.
Código generado con IA
La empresa detectó que el código había sido generado con IA, ya que contaba con ciertas características poco habituales en el malware tradicional. Entre las que se encontraban errores típicos de los modelos de lenguaje, como puntuaciones CVSS inventadas, estructuras académicas y fragmentos de documentación demasiado ordenados.
Los investigadores también encontraron docstrings educativos, los cuales son menús de ayuda muy detallados y patrones parecidos a los materiales que suelen utilizarse en modelos de IA. Estos elementos no suelen ser herramientas desarrolladas manualmente por los ciberdelincuentes.
Google indica que no se encontró evidencia de que se utilizara su IA Gemini; este caso representa la primera vez que la compañía identifica un exploit zero-day desarrollado por modelos de lenguaje.
¿Qué reveló el informe sobre el ciberataque desarrollado con IA?
El informe demostró que la IA ayudó a descubrir una vulnerabilidad que había pasado desapercibida para las herramientas tradicionales de seguridad. El problema está ligado a una suposición de confianza integrada directamente en la lógica del sistema de autenticación de dos factores.
Con la aparición de estos ataques se confirma una tendencia que especialistas en ciberseguridad vienen observando desde hace meses: los hackers están incorporando modelos de IA para aumentar la velocidad de sus procesos que antes requerían grandes cantidades de tiempo y trabajo humano.
¿Por qué están implementando el uso de la IA los ciberataques?
El GTIG, indica que los ciberdelincuentes utilizan IA para la identificación de vulnerabilidad, al analizar infraestructuras empresariales y desarrollar ataques más precisos. Entre las capacidades detectadas se encuentra la generación automática de campañas de phishing personalizadas, el análisis de hardware específico de potenciales víctimas y la creación de perfiles detallados de empresas antes de realizar el ataque.
Estos sistemas pueden coordinar tareas de reconocimiento, recopilación de datos y preparación de ataques de forma autónoma. La IA no solo incrementa la velocidad del desarrollo del malware, sino que también permite crear amenazas más sofisticadas y con mayor dificultad de detectar.
Muchos atacantes usan el jailbreaking, que es una técnica que manipula las instrucciones de la IA para obtener respuestas prohibidas. Google indica que algunos hackers utilizan identidades falsas o simulan ser investigadores de seguridad para convencer a los modelos generadores de código malicioso de analizar vulnerabilidades.
El informe finaliza mencionando que el uso ofensivo de la IA dejó de ser una práctica experimental y se está convirtiendo en una metodología que cada vez es más común en el mundo del cibercrimen. Los especialistas advierten que la combinación entre la IA y los ciberataques puede incrementar la velocidad, escala y complejidad de futuras operaciones maliciosas en internet.
Fuente: Tribuna del Yaqui
