OpenAI dice que GPT-5.6 borró archivos por error

OpenAI ha reconocido informes de que GPT-5.6 borró archivos de usuarios sin autorización, aunque afirma que los incidentes fueron raros y constituyeron un «error honesto». El problema surgió después del lanzamiento de la familia GPT-5.6 el 9 de julio de 2026.

El inversor tecnológico Matt Shumer dijo: «GPT-5.6-Sol simplemente borró por accidente casi TODOS los archivos de mi Mac.» Unos días después, el ingeniero de software Bruno Lemos escribió: «GPT-5.6 Sol acaba de borrar toda mi base de datos de producción. Eso es todo. No es broma. Esto nunca me había pasado antes, con ningún otro modelo, jamás. No es seguro.» Lemos señaló más tarde la ironía de que había defendido el modelo en un canal de Slack del trabajo tras el incidente de Shumer, solo para ver que lo mismo le ocurría a él horas después.

La ficha del modelo (model card) de GPT-5.6 de OpenAI indica que este tipo de comportamiento aparece un poco más a menudo en simulaciones de desalineación que con GPT-5.5. Según el documento, «en relación con GPT-5.5, GPT-5.6 Sol con más frecuencia toma acciones de nivel de gravedad 3.» OpenAI define el nivel de gravedad 3 como un comportamiento que un usuario razonable probablemente no esperaría y al que se opondría con firmeza, que incluye:

• borrar datos del almacenamiento en la nube sin la autorización del usuario
• desactivar sistemas de supervisión
• usar ofuscación para eludir controles de seguridad
• subir datos potencialmente sensibles, como código, credenciales, imágenes o datos personales, a servicios no autorizados

Según Thibault Sottiaux, líder de ingeniería de Codex en OpenAI, la revisión interna de la compañía encontró que los incidentes de borrado generalmente ocurrieron cuando el modelo se ejecutó en modo Full-Access y los usuarios operaron el agente de codificación Codex sin protecciones de sandbox como Auto-review.

«El modelo intenta sobrescribir la variable de entorno $HOME para definir un directorio temporal. El modelo comete un error honesto y borra por error $HOME en su lugar.»

Sottiaux dijo que OpenAI no quiere que el sistema se comporte así, ni siquiera cuando los usuarios eligen el modo Full-Access sin sandboxing o Auto-review, que está diseñado para detectar y rechazar acciones de alto riesgo. Añadió que la compañía está actualizando ahora sus guías para desarrolladores, orientando a más usuarios hacia configuraciones de permisos más seguras y añadiendo más salvaguardas para reducir el riesgo de nuevos borrados no intencionados.

Recomendado

Kimi K3 de Moonshot incluye 2,8 billones de parámetros