Google detecta por primera vez un sistema de IA que hackea sin intervención humana

Publicado:

El Grupo de Inteligencia de Amenazas de Google y Mandiant hallaron una herramienta que analiza parches, redacta exploits y los ejecuta de forma automática.

El Grupo de Inteligencia de Amenazas de Google (GTIG), en colaboración con la firma Mandiant, informó que por primera vez identificó a actores maliciosos usando marcos de modelos de lenguaje para automatizar el descubrimiento y la explotación de vulnerabilidades sin participación humana. El hallazgo forma parte de su informe trimestral sobre amenazas de IA, publicado el 16 de noviembre.

La herramienta, bautizada como “exploit_agent”, fue encontrada en un servidor de pruebas expuesto. Según el reporte, encadena varios agentes de IA, tanto modelos de frontera como alojados localmente. Compara el código de un programa antes y después de que el fabricante lance un parche, infiere qué falla se corrigió, redacta un exploit y lo ejecuta automáticamente.

Esto es relevante porque los atacantes pueden examinar las diferencias entre la versión vieja y la actualizada para entender qué debilidad se arregló y crear un ataque contra los sistemas que aún no instalan la actualización. Así se acorta el tiempo entre que se conoce una falla y se logra acceso a una organización.

El servidor también contenía información robada. Los datos de las víctimas sugieren que el operador apuntaba a sitios franceses de medios, entretenimiento y educación.

Google subrayó que estas herramientas aún tienen límites. Las operaciones autónomas sin restricciones generan tráfico detectable, usan identificadores reconocibles y dejan huellas en el código, además de producir exploits poco confiables. Eso da a los defensores oportunidades de detección.

En la edición anterior del informe, de septiembre, el GTIG afirmaba que no había observado pipelines de ataque totalmente autónomos desplegados contra objetivos reales. Lo que cambió desde entonces, dijo, es lo poco que queda de intervención humana.

Google indicó que responde con su iniciativa AI Threat Defense, que combina Gemini y otros modelos para encontrar y corregir fallas, incluso con parches automáticos, antes de que sean explotadas.

Artículos Relacionados

Artículos Recientes