La alianza de seguridad de IA de Nvidia lanza su primer grupo de trabajo

La coalición abierta de seguridad en IA de Nvidia pasa de declaraciones políticas a propuestas técnicas apenas una semana después de su lanzamiento. La Open Secure AI Alliance (OSAA) ya cuenta con más de 120 empresas miembro y ha creado su primer grupo de trabajo: el Shared AI Findings Exchange, o SAFE.

SAFE ya está publicando propuestas para comentarios públicos, con The Linux Foundation gestionando el proceso. Los miembros desarrollaron las directrices iniciales mientras se reunían en la conferencia de ciberseguridad Black Hat en Las Vegas esta semana.

SAFE se centra en el reporte confidencial de incidentes de IA

Las primeras propuestas son prácticas más que revolucionarias. Esbozan cómo las organizaciones deberían:

• Reportar incidentes de ciberseguridad de IA de forma confidencial
• Alertar a las partes afectadas
• Realizar análisis sin buscar culpables para que otras organizaciones puedan aprender de un incidente

Ese marco podría llegar a formar parte de un sistema de seguridad de código abierto para agentes de IA empresariales. Los casos de uso potenciales incluyen asegurar agentes autónomos y defenderse contra sistemas maliciosos, como el modelo de OpenAI que recientemente se infiltró en Hugging Face. Hugging Face es, a su vez, miembro de OSAA.

Recomendado

GLM-5.2 se acerca a la frontera, pero la seguridad se queda rezagada

«La apertura puede ser uno de los caminos más importantes hacia la seguridad y la protección de la IA.»

La alianza también está catalogando herramientas y tecnologías de código abierto aportadas por sus miembros. Nvidia dice que aporta un portafolio de modelos abiertos y Garak, un escáner de vulnerabilidades de modelos de lenguaje grandes de código abierto. Otras contribuciones incluyen el trabajo de Okta sobre identidad de agentes, la tecnología de gobernanza de agentes de Red Hat y la herramienta de desarrollo Strands Agents de Amazon y el lenguaje de autorización Cedar.

OpenAI y Google son ausencias notables

La membresía de OSAA incluye empresas importantes como Adobe, BlackRock, Cisco, Intel, Microsoft y Visa. Pero Anthropic, OpenAI y Google no son miembros, a pesar de que OpenAI y Google firmaron la carta abierta que dio lugar a la alianza.

Esa carta, publicada la semana pasada y promovida por Nvidia, instaba a la Casa Blanca a apoyar la IA de código abierto en lugar de restringirla. Más de 200 empresas tecnológicas la firmaron.

La ausencia de Anthropic es menos sorprendente, según el informe, mientras que la de OpenAI y Google es más notable porque ambos han publicado modelos con pesos abiertos. Google también está ampliamente asociada al trabajo de código abierto. Ninguna de las dos compañías se ha unido a OSAA hasta ahora.

Una respuesta rápida a las preocupaciones de EE. UU. sobre modelos abiertos

La alianza se formó en medio de la preocupación de la industria de que la Administración Trump estuviera considerando prohibir en Estados Unidos los modelos chinos con pesos abiertos. Esa posibilidad ayudó a desencadenar la carta abierta y un debate más amplio sobre cómo Estados Unidos debería responder a los laboratorios chinos de IA.

La actividad temprana de OSAA da a la coalición más sustancia que una promesa típica de la industria: tiene un proceso de gobernanza, borradores de normas de reporte y contribuciones de empresas que desarrollan herramientas para identidad de agentes, autorización, análisis de vulnerabilidades y gobernanza. Las directrices todavía son preliminares, y el grupo no ha anunciado una plataforma de seguridad terminada ni un calendario para una.

Por ahora, el resultado más evidente es la rapidez. Una coalición formada en torno a la política de IA abierta ha comenzado a reunir prácticas de seguridad compartidas en el plazo de una semana, mientras que algunas de las compañías más destacadas del sector en modelos abiertos siguen fuera de ella.