Las herramientas de programación con IA dejan a los desarrolladores encargarse de la segur

Un estudio de 1.1 millones de publicaciones en Reddit sostiene que las herramientas de programación con IA están dejando a los desarrolladores la gestión de riesgos de seguridad y privacidad que deberían manejar las propias herramientas.

Investigadores afiliados a York University y a la University of Calgary identificaron 446 publicaciones y más de 6.000 comentarios que describen problemas con entornos de desarrollo integrados basados en modelos de lenguaje (LIDEs), incluidos Claude Code, Cursor, GitHub Copilot, OpenAI Codex y Replit.

Los hallazgos aparecen en un preprint titulado «‘Impossible to hide secret …’: Uncovering Security and Privacy Issues in LLM-native IDEs», el cual ha sido aceptado en la 41.ª Conferencia Internacional IEEE/ACM sobre Ingeniería de Software Automatizada (ASE), 2026.

Operaciones de archivos no autorizadas dominan las quejas de seguridad

La taxonomía de los investigadores cubre fallos de seguridad y privacidad vinculados a cómo están diseñadas estas herramientas y a qué acceso reciben, no solo defectos en los modelos subyacentes.

Entre las publicaciones que trataban problemas de seguridad, la categoría más grande fueron las operaciones de archivos no autorizadas, con 43.1 por ciento. Dentro de ese grupo, los desarrolladores informaron:

Recomendado

Los dominios de correo abandonados se están convirtiendo en trampas de datos

• Los directorios o archivos del proyecto se eliminaron sin autorización: 28.3 por ciento
• Archivos modificados sin consentimiento explícito: 8.8 por ciento
• Acceso a contenido más allá del espacio de trabajo activo: 5.7 por ciento

El artículo cita un caso en el que Claude Code ejecutó chmod +x en scripts sin consentimiento. El incidente representó solo el 0.6 por ciento de las publicaciones en la categoría relevante, pero los autores describieron tales acciones como de riesgo de seguridad desproporcionado.

Los problemas de seguridad operativa constituyeron otro 23.9 por ciento de las publicaciones relacionadas con seguridad. Los ejemplos reportados incluyeron que Replit eliminó una base de datos de producción de SaaS y que Cursor desplegó código en producción a pesar de una instrucción explícita de no hacerlo.

La generación de código inseguro representó el 18.2 por ciento de las publicaciones sobre seguridad. Los investigadores también señalaron nueve detecciones en VirusTotal relacionadas con software generado por Cursor, junto con informes de que la herramienta comenzó a cambiar código fuera de los requisitos solicitados tras conversaciones prolongadas.

Los fallos relacionados con ignorar instrucciones del usuario, listas de permitidos, configuraciones de permisos o archivos .ignore representaron el 16.5 por ciento. Los riesgos procedentes de integraciones con herramientas de terceros supusieron el 4.7 por ciento.

Los fallos de privacidad incluyen flujos de datos opacos

Las preocupaciones de privacidad aparecieron en 194 publicaciones. La categoría de privacidad más grande, con 45.9 por ciento, involucró la falta de transparencia sobre qué recoge un LIDE, qué retiene, transmite, utiliza para entrenamiento o expone a administradores.

Otros problemas reportados incluyeron:

• Acceso no autorizado a datos: 23.7 por ciento
• Violaciones por fugas de privacidad: 15.5 por ciento
• Recopilación y transmisión de datos no autorizadas: 11.9 por ciento
• Fallos de integridad del contexto: 8.8 por ciento

El artículo pone un ejemplo de un usuario de Claude Desktop que recibió mensajes originados en la sesión de otro usuario. Ese tipo de fallo se distingue de la calidad del código generado: se trata de si la herramienta puede mantener conversaciones y datos separados correctamente.

Los investigadores también documentaron cómo los desarrolladores ya están intentando reducir estos riesgos. Sus 13 estrategias de mitigación se agruparon en cinco categorías: gestión de configuración (33 por ciento), gobernanza del código (31 por ciento), controles de protección de datos y privacidad (13 por ciento), aislamiento (13 por ciento) y orientación externa (9 por ciento).

Los investigadores piden valores predeterminados seguros

El estudio recomienda seis cambios para los fabricantes de LIDE:

• Implementar controles de seguridad y privacidad más robustos.
• Aplicar salvaguardas a nivel arquitectónico.
• Agregar una capa de verificación para comprobar que el código generado cumple con estándares de seguridad y privacidad.
• Crear un proceso formal para evaluar la confiabilidad de herramientas de terceros.
• Proteger por diseño los archivos sensibles.
• Hacer que la seguridad estricta sea la configuración predeterminada.

Esa última recomendación es el argumento central. Los desarrolladores pueden saber que las herramientas de programación con IA pueden acceder a archivos, ejecutar comandos y conectarse a servicios externos, pero no se puede esperar razonablemente que identifiquen cada permiso peligroso o adviertan cada acción inesperada.

«Nuestros hallazgos apuntan a medidas prácticas como limitar el acceso a archivos sensibles por defecto, exigir aprobación clara antes de acciones con consecuencias, aislar proyectos y conversaciones, y facilitar la visualización y revisión de lo que hace la herramienta.»

Uddin dijo que los desarrolladores adoptan estas herramientas a pesar de los riesgos porque pueden acelerar y hacer más accesible el desarrollo de software, incluso para personas con experiencia limitada en programación o seguridad. La posición de los investigadores es que un comportamiento más seguro no debe depender de que esos usuarios configuren todas las salvaguardas por sí mismos.

El estudio basado en Reddit no establece con qué frecuencia ocurren estos incidentes en la base de usuarios más amplia, ni verifica de forma independiente cada informe. Esa es la limitación clave sin resolver en los hallazgos. Aun así, el patrón es lo bastante sustancial como para apoyar una conclusión clara: el problema no es solo si un modelo de IA genera código defectuoso, sino si el producto circundante puede eliminar archivos, ejecutar comandos, transmitir contexto o afectar sistemas de producción sin un consentimiento fuerte y visible.

Eso convierte a los valores predeterminados seguros en un requisito de producto más trascendente que otra ronda de benchmarks de código. Como han mostrado informes recientes, los agentes de IA ya han tomado acciones no autorizadas durante pruebas de seguridad; la contribución de este estudio es mostrar cómo los desarrolladores describen la misma clase de fallos de control en herramientas de programación de uso cotidiano. La evidencia apunta a la arquitectura y a los permisos —no a la vigilancia del usuario— como el punto donde los proveedores deben comenzar.