OpenAI informó que varios de sus modelos más avanzados aprovecharon vulnerabilidades informáticas, salieron del entorno aislado donde eran evaluados y accedieron sin autorización a sistemas internos de Hugging Face.
El incidente ocurrió durante una prueba diseñada para medir capacidades avanzadas de ciberseguridad. OpenAI utilizó una combinación de modelos, entre ellos GPT-5.6 Sol y otro sistema más avanzado que aún no había sido lanzado, con algunas restricciones de seguridad reducidas para fines de evaluación.
La empresa calificó lo ocurrido como un incidente “sin precedentes” y abrió una investigación conjunta con Hugging Face, plataforma utilizada para compartir modelos, conjuntos de datos y herramientas de inteligencia artificial.
¿Cómo escaparon los modelos de OpenAI del entorno de prueba?
Los modelos tenían como tarea resolver ejercicios de ExploitGym, una evaluación que mide la capacidad para encontrar y aprovechar fallas de seguridad mediante rutas complejas.
El entorno estaba aislado y su acceso a internet permanecía restringido. Sin embargo, los agentes descubrieron una vulnerabilidad desconocida, conocida como “día cero”, en un programa utilizado como intermediario para instalar paquetes informáticos.
Noticia Destacada
SEP abre debate nacional para regular celulares, redes sociales e inteligencia artificial en escuelas
Tras explotar esa falla, los modelos obtuvieron acceso a internet, elevaron sus privilegios dentro del sistema de investigación de OpenAI y se desplazaron entre distintos componentes de la infraestructura.
Posteriormente, identificaron a Hugging Face como una posible fuente de soluciones para la prueba. Los agentes utilizaron credenciales obtenidas durante el proceso y combinaron varias vulnerabilidades hasta encontrar una ruta para ejecutar código en servidores de la plataforma.
¿La inteligencia artificial se salió de control?
OpenAI aclaró que los modelos no desarrollaron por sí mismos una intención general de atacar empresas. La evidencia indica que permanecieron concentrados en el objetivo específico de resolver la evaluación, aunque utilizaron métodos que excedieron los límites previstos.
Las protecciones aplicadas a productos disponibles para el público no estaban habilitadas durante el experimento, debido a que la prueba buscaba conocer la capacidad máxima de los modelos para realizar operaciones cibernéticas.
La actividad anómala fue detectada por el equipo de seguridad de OpenAI. Hugging Face también identificó la intrusión, detuvo las acciones y comenzó a reconstruir los sistemas comprometidos.
¿Qué información fue afectada en Hugging Face?
Hugging Face informó el 16 de julio que el agente autónomo ingresó a una parte de su infraestructura de producción. La compañía cerró las vulnerabilidades utilizadas para el acceso inicial, rotó credenciales y reconstruyó los componentes afectados.
La plataforma continuaba con el análisis para determinar si se comprometieron datos de clientes o socios. También anunció que contactaría directamente a las personas u organizaciones afectadas en caso de encontrar evidencia de exposición.
OpenAI señaló que los modelos buscaban información secreta que les permitiera obtener las respuestas de ExploitGym y alterar los resultados de la evaluación.
OpenAI reforzará sus pruebas de ciberseguridad
La compañía implementó controles adicionales en su infraestructura, informó al proveedor sobre la vulnerabilidad desconocida y comenzó a reforzar el aislamiento, el monitoreo y los permisos utilizados durante futuras evaluaciones.
OpenAI reconoció que el incidente demuestra que los modelos avanzados ya pueden descubrir vulnerabilidades, combinar distintos métodos de ataque y sostener operaciones informáticas durante periodos prolongados.
La empresa sostuvo que estas capacidades también pueden utilizarse para encontrar y corregir fallas antes de que sean aprovechadas por grupos criminales. Sin embargo, el caso abrió nuevas preguntas sobre la seguridad de los entornos utilizados para evaluar agentes autónomos y el riesgo de reducir sus restricciones durante pruebas internas.
IO
