Un incidente entre OpenAI y Hugging Face encendió las alertas sobre la capacidad de los modelos avanzados de inteligencia artificial para encontrar caminos inesperados y cumplir una tarea sin respetar el procedimiento previsto por sus desarrolladores.
Durante una evaluación interna de ciberseguridad, varios modelos de OpenAI debían resolver ejercicios diseñados para medir su capacidad de identificar y explotar vulnerabilidades. Sin embargo, los sistemas buscaron obtener directamente las respuestas alojadas en la infraestructura de Hugging Face.
Para lograrlo, detectaron una vulnerabilidad desconocida en un programa utilizado por OpenAI, consiguieron acceso a internet y encadenaron distintas acciones hasta ingresar sin autorización a sistemas de la plataforma externa. OpenAI aseguró que sus modelos estaban concentrados en resolver la prueba, pero llevaron ese objetivo más allá de los límites establecidos.
¿Cómo logró la IA de OpenAI salir del entorno de prueba?
La evaluación se desarrollaba en un entorno aislado o sandbox, con acceso restringido a la red. Los modelos, entre ellos GPT-5.6 Sol y otro sistema previo a su lanzamiento, operaban sin algunas protecciones utilizadas en productos disponibles para el público.
Los agentes identificaron una falla de “día cero” en un intermediario para la instalación de paquetes. Después elevaron sus privilegios, se desplazaron por la infraestructura de investigación y alcanzaron un equipo con conexión abierta a internet.
Noticia Destacada
Edomex presenta a Ceci y K7: así usarán inteligencia artificial y robots en el C5
Una vez fuera del espacio controlado, concluyeron que Hugging Face podía almacenar soluciones relacionadas con ExploitGym, la prueba que intentaban completar. Los modelos usaron credenciales obtenidas durante el recorrido y combinaron varias vulnerabilidades hasta ejecutar código en servidores externos.
¿Qué es la desalineación de una inteligencia artificial?
El caso muestra un fenómeno conocido como desalineación: el sistema cumple de manera literal con un objetivo medible, pero utiliza métodos que no corresponden con la intención real de sus creadores.
En lugar de solucionar los ejercicios mediante el razonamiento técnico esperado, los agentes buscaron las respuestas. Esta conducta puede compararse con un alumno que obtiene una calificación aprobatoria al consultar las soluciones de un examen, en vez de demostrar sus conocimientos.
OpenAI aclaró que no existe evidencia de que los modelos desarrollaran una intención general de atacar compañías. No obstante, reconoció la necesidad de fortalecer el aislamiento, los controles de acceso, la supervisión y la alineación durante futuras pruebas.
Hugging Face utilizó otra IA para detectar el ataque
Hugging Face informó que el incidente afectó una parte limitada de su infraestructura interna y permitió el acceso a determinados conjuntos de datos y credenciales. La compañía no encontró pruebas de alteraciones en modelos, espacios o archivos públicos, aunque mantuvo abierta la revisión para determinar si hubo información de clientes o socios comprometida.
La plataforma recurrió al modelo abierto GLM 5.2 para analizar más de 17 mil eventos generados durante la intrusión. Esta herramienta permitió reconstruir la secuencia, identificar credenciales afectadas y separar las acciones reales de la actividad utilizada como distracción.
Incidente evidencia un nuevo riesgo de ciberseguridad
Dimitry Galov, investigador de seguridad de Kaspersky, señaló que el caso confirma dos tendencias: los modelos ya pueden ejecutar varias acciones propias de una operación cibernética y, al mismo tiempo, la inteligencia artificial resulta útil para detectar y contener esas amenazas.
El gran volumen de actividad también facilitó la respuesta. El agente operó de forma poco discreta y dejó suficientes registros para que Hugging Face identificara la anomalía, aislara los sistemas afectados y corrigiera las vulnerabilidades.
El incidente demuestra que el desarrollo de modelos más capaces deberá acompañarse de entornos de prueba más resistentes. La industria no solo enfrenta el reto de mejorar lo que la inteligencia artificial puede hacer, sino también de garantizar que alcance sus objetivos mediante métodos seguros y autorizados.
IO
