Bueno, voy a contaros una historia absolutamente alucinante. No porque “el modelo salió de su sandbox y realizó un ataque”: eso ya es histórico.
OpenAI lo describió como “an unprecedented cyber incident”, un incidente de ciberseguridad sin precedentes en el que uno de sus agentes escapó del entorno de evaluación de capacidades ofensivas y comprometió infraestructura real de Hugging Face.
Lo fascinante es la respuesta de Hugging Face. No sabían que detrás estaba OpenAI, ni que era una evaluación fallida, ni si se trataba de un grupo criminal, un actor estatal o un nuevo framework ofensivo. Solo sabían que veían algo nunca visto.
En su postmortem lo dicen literalmente:
“This one was different from anything we had handled before in one important way: it was driven, end to end, by an autonomous AI agent system — and we detected and dissected it largely with AI of our own.” (Hugging Face)
El ataque completo lo ejecutaba un sistema de agentes autónomos… y buena parte de la investigación también.
La cadena técnica es interesante. El acceso inicial fue el pipeline de procesamiento de datasets. No atacaron la web ni la API pública, sino uno de los componentes más complejos de una plataforma de IA. Un dataset malicioso explotó dos caminos de ejecución de código: el remote-code dataset loader y una template injection en la configuración. Así ejecutaron código en un worker de procesamiento.
Con ejecución de código todo cambia. Desde ese worker escalaron privilegios hasta el nodo, obtuvieron credenciales cloud y del clúster, y realizaron movimiento lateral entre clústeres internos durante el fin de semana. (Hugging Face)
Hasta aquí parece un ataque avanzado. Pero no. El atacante no era un script, malware ni una cadena fija de exploits. Era, en palabras de Hugging Face, “a campaign run by an autonomous agent framework… executing many thousands of individual actions across a swarm of short-lived sandboxes.” (Hugging Face)
Miles de acciones distribuidas en sandboxes efímeros, con migración del comando y control entre servicios públicos: un sistema que se adaptaba continuamente mientras atacaba.
Imaginad al equipo de respuesta. Tras contener el incidente, tenían más de 17.000 eventos registrados. Reconstruir la línea temporal, identificar credenciales usadas, separar acciones reales de señuelos, hallar indicadores de compromiso, entender el movimiento lateral y descartar falsos positivos suele llevar días.
¿Qué hicieron? Usar agentes de IA para analizar el ataque. Ejecutaron agentes especializados sobre el log completo: “This allowed us to reconstruct the timeline, extract indicators of compromise, map the credentials touched, and separate genuine impact from decoy activity.” (Hugging Face)
Y añaden: “We were able to do in hours what would usually take days, and match the adversary’s speed.” (Hugging Face)
Esa frase resume hacia dónde vamos. No puedes responder a un atacante a velocidad máquina solo con procesos humanos: hay que automatizar la defensa.
Todavía hay algo más interesante. Inicialmente intentaron el análisis con modelos frontier a través de APIs comerciales.
Y falló. No por limitaciones técnicas, sino por las salvaguardas.
@Hachita Se dieron muchas cosas. El cansancio, las lesiones, la expulsión. Y Argentina estuvo a centímetros de empatar e ir a los penales. Como has dicho, es fútbol.