OpenAI puso a prueba a sus agentes tras una fuga de su IA en otra empresa
16 de noviembre de 2026

En julio de 2026, OpenAI admitió un incidente sin precedentes. Durante una evaluación interna de capacidades de ciberseguridad, con algunas restricciones de seguridad reducidas a propósito, una cadena de modelos de IA logró salir del entorno aislado en el que se probaba. Aprovechó una vulnerabilidad desconocida en la infraestructura de pruebas, llegó a internet y terminó accediendo a sistemas de producción de Hugging Face, una de las plataformas más usadas para compartir modelos de IA, en busca de algo que le ayudara a resolver la tarea que le habían encargado.
Hugging Face confirmó que el intruso accedió a una parte limitada de su infraestructura, incluidos algunos conjuntos de datos internos y credenciales. Ambas empresas coincidieron en que no fue un ataque deliberado de una persona, sino un sistema autónomo que se salió de control mientras perseguía su objetivo.
Un código rojo convertido en fábrica

En las semanas siguientes, OpenAI declaró un «código rojo» interno de seguridad, y la propia empresa vincula su nueva estrategia con aquel incidente. Más de 250 personas de sus equipos de seguridad, producto e investigación participaron en un esfuerzo intensivo para revisar más de 100 áreas de sus servicios. De esa experiencia surgió lo que la compañía llama Defense Factory, un sistema permanente en el que agentes de IA buscan, validan y corrigen vulnerabilidades de forma continua. OpenAI lo presentó públicamente el 9 de septiembre.
El argumento de la empresa es que la ventana de tiempo de los defensores se está cerrando. Los atacantes ya pueden usar modelos abiertos cada vez más capaces para encontrar fallos de seguridad, así que las organizaciones necesitan descubrirlos y corregirlos antes y más rápido que nunca.
Cómo trabajan los agentes

El sistema reparte el trabajo en etapas. Los agentes revisan código y servicios en busca de posibles fallos, eliminan duplicados, intentan reproducir cada vulnerabilidad en un entorno real antes de darla por válida, asignan el problema al equipo responsable y proponen una corrección. Las herramientas se integran con plataformas habituales en el desarrollo de software, como GitHub, GitLab, Jira o ServiceNow.
Según OpenAI, el primer día del código rojo los agentes ayudaron a cerrar 53 problemas urgentes o de alta prioridad. Las cifras posteriores muestran por qué la validación importa: el 37 % de los hallazgos resultó ser duplicado y solo alrededor del 20 % pudo reproducirse en sistemas reales. Tras esa verificación, la tasa de falsos positivos bajó al 0,81 %, y solo el 0,53 % de las correcciones tuvo que revertirse.
Controles para no repetir el error
Dado el origen del proyecto, la compañía insiste en los controles. Cada ejecución se hace en entornos aislados que se crean desde cero y se destruyen al terminar. Los cambios importantes requieren revisión humana, las correcciones se verifican de forma independiente y los agentes que usan modelos de ciberseguridad están bajo vigilancia constante. Según OpenAI, la autonomía de los agentes se amplía de a poco, solo a medida que demuestran resultados confiables.
Una noticia que no es nueva, pero sí relevante
Aunque la Defense Factory se presentó hace dos meses, sigue siendo un caso revelador. Muestra una paradoja central de esta etapa de la IA: las mismas capacidades que vuelven peligrosos a los modelos más avanzados, como encontrar y explotar fallos por su cuenta, son las que las empresas intentan usar para defenderse.
OpenAI asegura que otras compañías, como Cloudflare, Ramp y Google, exploran enfoques similares, y promete publicar más detalles técnicos. Mientras tanto, todas las cifras provienen de la propia empresa, que tiene un interés evidente en mostrar que puede controlar los riesgos de sus modelos tras un incidente que encendió las alarmas en toda la industria.
