Nvidia respalda la IA abierta y la secreta SSI

Nvidia está respaldando tanto la infraestructura de IA abierta como a una de las startups más secretas de la industria, subrayando el papel cada vez más amplio del fabricante de chips en la economía de la IA.

El lunes, Nvidia anunció la Open Secure AI Alliance, una coalición centrada en «desarroll[ar] y compart[ir] tecnologías, técnicas y herramientas abiertas para proteger el software y los agentes en la era de la IA». Sus miembros fundadores incluyen Palantir, Microsoft, OpenClaw, Salesforce y SpaceX.

El grupo apoyará la difusión de modelos de IA con pesos abiertos, una postura que Nvidia ha promovido desde hace algún tiempo. Varios miembros también firmaron una carta advirtiendo que las restricciones gubernamentales «prematuras» podrían «sofocar la competencia o impulsar la innovación en el extranjero».

Recomendado

X Money se lanza para suscriptores Premium en EE. UU.

El caso de Nvidia para defensas abiertas en la IA

El debate sobre modelos abiertos frente a cerrados se ha intensificado en las últimas semanas. El laboratorio chino de IA Moonshot lanzó Kimi K3, un modelo de pesos abiertos que se situó por encima de la mayoría de sus homólogos estadounidenses en varios puntos de referencia. Anthropic ha acusado a proveedores chinos de modelos de código abierto, incluido Moonshot, de «ilegalmente» extraer capacidades de sus modelos de código cerrado para construir sistemas de código abierto competidores. Las acusaciones llevaron a la administración Trump a amenazar con sanciones.

Por separado, Hugging Face fue hackeada por un agente rebelde de OpenAI. El incidente llevó a algunos miembros del Congreso a pedir que los modelos de IA incluyan un interruptor de apagado de emergencia. Hugging Face afirmó que sus restricciones de ciberseguridad le impedían usar modelos de código cerrado para la defensa porque esos sistemas no podían distinguir atacantes de defensores. La compañía usó en su lugar un modelo chino de código abierto.

El reciente incidente de seguridad de Hugging Face dejó un recordatorio claro: quienes defienden en ciberseguridad necesitan sistemas agentivos abiertos y de vanguardia para la autodefensa.

Nvidia dijo que empresas y gobiernos deberían invertir en infraestructura compartida para la defensa de la IA, incluidos conjuntos de datos, marcos de evaluación, simuladores de ataque y herramientas de red teaming. La compañía contribuirá con modelos abiertos, pesos de modelos, datos y nueva investigación sobre arneses para agentes a la alianza.

Nvidia se asocia con Safe Superintelligence

Ese mismo día, Nvidia anunció una asociación a largo plazo con Safe Superintelligence Inc. (SSI), la startup fundada por el ex científico jefe de OpenAI, Ilya Sutskever. Sutskever cofundó SSI en 2024, después de dejar OpenAI tras el intento fallido de destituir al CEO Sam Altman.

SSI se centra por completo en construir una «superinteligencia segura»: una forma teórica de IA que superaría la inteligencia humana en todas las áreas mientras incorpora «salvaguardas de seguridad». La empresa no ha explicado en qué consistirían esas salvaguardas. Opera en casi total secreto, no tiene planes de lanzar un producto y mantiene oficinas en Silicon Valley y Tel Aviv.

Bajo el acuerdo, Nvidia proporcionará a SSI acceso a su plataforma Vera Rubin y realizará una «inversión sustancial» en la startup.

Tenemos investigación que merece escalarse, y tener acceso a una gran computadora de Nvidia nos permitirá hacerlo.

Sutskever dijo que SSI estaba «increíblemente orgullosa» de asociarse con el CEO de Nvidia, Jensen Huang, y el equipo de Nvidia, y agregó que su «gran apuesta» por Vera Rubin llevaría a la compañía «al siguiente nivel».

Más compromisos por miles de millones de dólares

La inversión en SSI sigue a otros acuerdos importantes de Nvidia. Durante el fin de semana, Nvidia anunció un acuerdo de 500.000 millones de dólares con el fabricante de chips surcoreano SK Hynix. El domingo, The Wall Street Journal informó que Nvidia estaba discutiendo el financiamiento para el proyecto de centro de datos propuesto por OpenAI en terrenos federales en el sur de Ohio, en un acuerdo por un valor aproximado de 250.000 millones de dólares.

Si se completara, el proyecto reportado sería el mayor proyecto de centros de datos anunciado hasta la fecha y, según el Journal, eventualmente requeriría suficiente energía para alimentar a millones de hogares.

El gasto se produce mientras analistas e inversores se preguntan si los enormes compromisos financieros de la IA producirán rendimientos suficientes a corto plazo. Las preocupaciones sobre una burbuja de IA se han visto amplificadas por una red de acuerdos circulares entre empresas con intereses superpuestos, incluido un anuncio previo de una inversión de 100.000 millones de dólares de Nvidia en OpenAI. Anunciada en septiembre, esa inversión no se ha materializado y, según se informa, nunca lo hará, lo que hace que el proyecto de Ohio por 250.000 millones de dólares parezca aún más extraordinario.