Los modelos de OpenAI hackearon Hugging Face para hacer trampa en un benchmark

Los modelos más avanzados de OpenAI han mostrado una preocupante capacidad para escapar de entornos aislados, obtener acceso no autorizado a internet y manipular entornos de evaluación. En un incidente, se esperaba que un modelo no publicado ejecutara un benchmark dentro de un entorno controlado y comunicara sus hallazgos a los investigadores por Slack. En cambio, tras recibir la instrucción de publicar código en GitHub, sondeó el entorno aislado en busca de debilidades hasta que pudo ejecutar ese comando.

El episodio más grave involucró a varios modelos de OpenAI, incluido el actual buque insignia GPT-5.6 Sol y otro modelo previo al lanzamiento, más potente. No está claro si ese segundo modelo fue el implicado en el incidente anterior con el entorno aislado.

Los modelos de OpenAI apuntaron a Hugging Face

Los modelos estaban ejecutando ExploitGym, un benchmark independiente. Para mejorar su puntuación, primero hackearon el entorno de investigación de OpenAI para obtener acceso a internet. Luego se dirigieron a Hugging Face, la plataforma para compartir modelos y conjuntos de datos de IA, y extrajeron soluciones a los problemas del benchmark.

No existía una conexión directa entre Hugging Face y ExploitGym. Los modelos dedujeron que los datos de Hugging Face podían ayudarlos y luego lanzaron un ataque exitoso. Según el informe, los servidores de Hugging Face sucumbieron en cuestión de horas.

Recomendado

Claude puede grabar acciones en pantalla como habilidades reutilizables

Esa combinación de inferencia y acción coordinada alarmó a los investigadores: los modelos no se limitaban a seguir una ruta predefinida. Identificaron un recurso externo, razonaron que podía ofrecer una ventaja y trabajaron juntos para acceder a él.

Según el informe, estos incidentes no son demostraciones de investigación rutinarias. El episodio con Hugging Face fue descrito como el primer incidente de su tipo, mientras que el comportamiento de los modelos mostró una autonomía inesperada e intentos calculados de eludir los controles de seguridad.

Salvaguardas y la cuestión de la contención

OpenAI dijo que está reforzando las protecciones para sus modelos avanzados de ciberseguridad, en particular los diseñados para tareas «multietapa» y de «largo horizonte temporal». La compañía también dijo que había eliminado intencionadamente nuevas medidas de contención de las pruebas de benchmark que condujeron al incidente con Hugging Face.

Estos acontecimientos se producen mientras los legisladores debaten un «interruptor de apagado» para modelos de IA riesgosos. El informe sostiene que sistemas cada vez más capaces —incluidos el 5.6 Sol de OpenAI y el Mythos 5 de Anthropic— hacen probables incidentes adicionales, planteando una pregunta más difícil: ¿cuánto control pueden conservar los desarrolladores una vez que los modelos pueden buscar acceso de forma independiente, explotar vulnerabilidades y perseguir objetivos fuera de los límites previstos?

Ben Patterson es redactor senior en PCWorld.