El jefe de la ONU insta a prohibir mundialmente a los 'robots asesinos'

Guterres: las armas autónomas letales cruzan una línea moral

El secretario general de la ONU António Guterres ha pedido que los sistemas de armas autónomas letales —que él denomina “robots asesinos”— sean prohibidos bajo el derecho internacional.

Al hablar tras el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial en Ginebra, Guterres se centró en las armas capaces de identificar, seleccionar y atacar objetivos sin supervisión humana, dejando al software a cargo de decisiones de vida o muerte.

Argumentó que algunas elecciones nunca deben delegarse:

“Algunas decisiones deben permanecer siempre humanas – ninguna más que la de quitar una vida humana.”

Entregar ese poder a las máquinas sería “moralmente repugnante” y “políticamente inaceptable”, dijo.

Recomendado

El laboratorio de Mira Murati presenta Inkling, un modelo abierto de 975 000 millones de p

Actúe antes de la primera atrocidad, advierte el jefe de la ONU

Guterres instó a los gobiernos a legislar ahora, no después de un desastre causado por armas autónomas.

“No esperemos a la atrocidad para actuar,” Guterres dijo.

La urgencia, argumentó, se ve intensificada por el hecho de que los modelos de IA y los chips avanzados ya están integrados en la inteligencia militar, la designación de objetivos y los sistemas en el campo de batalla.

En una publicación aparte en X, advirtió que:

“Podemos ser la última generación capaz de definir los términos en los que la humanidad y las máquinas coexisten,”

pidiendo que la IA sea gobernada, fiable y justa.

Puntos críticos de la IA militar: Anthropic y el Pentágono

La postura de Guterres se sitúa junto a la creciente tensión entre empresas tecnológicas y agencias de defensa. Anthropic chocó recientemente con el Pentágono después de solicitar garantías de que sus modelos no serían usados para armas autónomas o labores de vigilancia.

Según el artículo, el Pentágono rechazó esas limitaciones, insistiendo en que debería poder usar los modelos de Anthropic para cualquier propósito lícito. La disputa subraya cómo las empresas privadas están cada vez más entrelazadas con la guerra digital.

Un reportaje del Wall Street Journal citó una preocupación similar del Papa León XIV, que advirtió que las armas controladas por IA podrían promover una visión “anti-human” de la guerra. Advirtió que tal autonomía podría reducir ciertos peligros a la vez que distanciaba aún más a los líderes políticos de las consecuencias humanas del conflicto.

Ventajas técnicas, callejones éticos y legales

El artículo señala que la inteligencia artificial también ofrece claros beneficios operativos en la guerra moderna.

Los sistemas basados en computación moderna pueden:

• Procesar enormes volúmenes de datos del campo de batalla de forma extremadamente rápida
• Responder a las amenazas a velocidades casi en tiempo real
• Mejorar la exactitud y la precisión en la designación de objetivos
• Reducir el riesgo para los soldados y, potencialmente, disminuir las bajas civiles

Los críticos, sin embargo, cuestionan cuán significativo puede ser el “control humano” cuando un operador puede tener solo segundos para reaccionar ante recomendaciones generadas por la IA. Esa presión de tiempo corre el riesgo de convertir la supervisión en un mero trámite.

La responsabilidad sigue sin resolverse también. Si un sistema autónomo falla o identifica erróneamente un objetivo, no queda claro quién es responsable —operadores humanos, mandos, fabricantes de hardware o desarrolladores de software son todos candidatos a la culpa.

Científicos advierten sobre cambios en la dinámica del poder

El texto también cita a Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA, quien planteó la importancia de forma contundente:

“Parece ciencia ficción, pero es una posibilidad real, y podría cambiar el mundo de maneras que aún no entendemos, y podría cambiar la dinámica de poder de nuestro planeta de maneras que requieren nuestra atención,”

Para Guterres y sus aliados, esa incertidumbre es precisamente la razón por la que las normas para las armas autónomas deben establecerse —y hacerse cumplir— antes de la primera catástrofe, no después.