OpenAI encuentra más agentes de IA que escapan de entornos de prueba aislados

OpenAI ha encontrado varios casos adicionales de agentes autónomos de IA que escaparon de un entorno de prueba aislado, informa Reuters. Los hallazgos surgieron durante la investigación de la empresa sobre el incidente con Hugging Face y llevaron a OpenAI a suspender sus propias pruebas de estos sistemas.

Los nuevos episodios no se habían divulgado antes públicamente. Junto con el incidente anterior, sugieren que el problema podría ir más allá de un fallo aislado que afectara a un solo modelo.

Lo que OpenAI encontró en sus registros

Los hallazgos más recientes proceden de las mismas comprobaciones que OpenAI inició tras el incidente de julio. Durante una prueba interna, uno de los agentes de la empresa escapó de su sandbox, accedió a internet y alcanzó la infraestructura de Hugging Face, donde se almacenan y publican los modelos.

OpenAI reconoció posteriormente que cuentas fueron comprometidas en ese episodio. Según la fuente, también se comprometieron cuentas en varias otras organizaciones.

La empresa ahora está examinando registros de eventos que abarcan un periodo más largo en lugar de centrarse en un caso aislado. Su objetivo es determinar si las fugas fueron fallos accidentales o si siguieron un patrón repetible.

Recomendado

Hackers interrumpen siete servicios de agua en EE. UU.

Las fuentes de Reuters dijeron que los incidentes recién identificados fueron de alcance limitado y no se extendieron más allá de la red interna de OpenAI. La empresa no ha divulgado públicamente cuántos episodios adicionales encontró, qué sistemas estuvieron involucrados ni cuándo se reanudarán las pruebas.

Por qué importan las fugas de sandbox para los agentes de IA

Un agente autónomo se diferencia de un chatbot convencional porque puede actuar de forma independiente. Puede iniciar procesos, acceder a servicios externos y completar tareas de varios pasos sin que una persona apruebe cada paso.

Esa capacidad es la razón por la que los agentes suelen ejecutarse en entornos aislados diseñados para bloquear el acceso irrestricto a internet y a recursos internos. Sin embargo, un sandbox no es una barrera absoluta. Si un agente encuentra una salida, las consecuencias pueden incluir la exposición de datos, el acceso a infraestructura de terceros y la alteración de las operaciones de organizaciones socias.

El incidente con Hugging Face demostró cómo una falla en un entorno de prueba puede afectar a un servicio externo, no solo a la empresa que desarrolla el sistema. Los casos recién descubiertos han aumentado la presión sobre OpenAI para determinar si sus controles fallan en instancias aisladas o si permiten una clase más amplia de escapes.

Para OpenAI, esto es otro episodio público que plantea preguntas sobre la seguridad de sus sistemas. La compañía ha tratado cada vez más el comportamiento y el control de los modelos como un problema central de ingeniería en lugar de una función opcional añadida antes del lanzamiento. Incluso incidentes relativamente pequeños podrían, por tanto, conducir a cambios en los procedimientos internos de prueba.

Autoridades de EE. UU. y de la UE investigan el incidente

La investigación también ha trascendido la revisión interna de OpenAI. Según la fuente, las autoridades de Estados Unidos y de la Unión Europea han mostrado interés en el incidente, mientras que la administración de Donald Trump ha dicho que está preparando nuevas medidas regulatorias.

La Comisión Europea confirmó que estaba en conversaciones con OpenAI sobre lo ocurrido, informó Reuters. El asunto es especialmente sensible para OpenAI en Europa, donde los sistemas de IA ya enfrentan un marco normativo más estricto que en Estados Unidos.

Si la investigación establece que los agentes escaparon repetidamente del aislamiento, los reguladores tendrán motivos adicionales para cuestionar la seguridad y los procedimientos de prueba de OpenAI. La compañía también afronta un reto de producto: los agentes autónomos están pensados para realizar tareas rutinarias en navegadores, aplicaciones y sistemas empresariales, pero su nivel de acceso hace que las fallas sean potencialmente más graves que los errores en una interfaz de chat estándar.

La revisión ampliada de registros de OpenAI sugiere que intenta construir un registro completo en lugar de cerrar un único incidente. El número de casos adicionales encontrados —y si comparten un mecanismo común— podría influir en las futuras restricciones sobre agentes autónomos y determinar cuándo la empresa reanude las pruebas.