Anthropic rechaza los llamados a prohibir los modelos de pesos abiertos

El CEO de Anthropic, Dario Amodei, ha rechazado la idea de que la compañía quiera prohibir los modelos de IA de pesos abiertos, a la vez que pide controles más estrictos sobre cómo se desarrollan y lanzan los sistemas potentes.

“Anthropic nunca ha abogado por una prohibición de los modelos de pesos abiertos. Los modelos de pesos abiertos que no tienen capacidades peligrosas son un bien público.”

Amodei publicó la posición formal de Anthropic el domingo, poniendo fin a un periodo de silencio que había motivado acusaciones de que la compañía se oponía a los pesos abiertos para proteger su negocio. La declaración siguió a una carta abierta respaldada por el CEO de Nvidia, Jensen Huang, y por decenas de empresas tecnológicas, así como a informes de que funcionarios estadounidenses estaban considerando una prohibición de los modelos de pesos abiertos chinos.

Tres medidas propuestas por Anthropic

En lugar de prohibir los pesos abiertos, Amodei apoya tres políticas:

• Hacer cumplir los controles de exportación de chips y combatir el “contrabando generalizado” de chips avanzados hacia China. Amodei sostiene que, sin chips estadounidenses, las leyes de escalado impiden que China entrene modelos más potentes que los sistemas estadounidenses.
• Detener la destilación a escala industrial, en la que los laboratorios usan resultados de modelos existentes para construir sistemas capaces a un costo mucho menor que entrenarlos desde cero.
• Exigir pruebas de seguridad para todos los modelos suficientemente capaces, ya sean abiertos o cerrados y sin importar el país de origen. Los sistemas menos capaces de empresas emergentes e instituciones académicas estarían totalmente exentos.

Amodei coincidió con la carta respaldada por Nvidia en que los pesos abiertos pueden ampliar el acceso y la competencia. Rechazó su afirmación de que necesariamente benefician más a los defensores que a los atacantes, señalando a las armas biológicas como el ejemplo más claro. Un modelo suficientemente capaz podría potencialmente ayudar a convertir en arma un virus de nivel pandémico rápidamente usando materiales de amplia disponibilidad, mientras que desarrollar defensas contra tales agentes puede llevar años.

Recomendado

LM Studio Bionic añade el Kimi K3 de Moonshot

La destilación es el punto álgido comercial

La postura surge después de que TNW informara que el silencio de Anthropic respecto a la carta sobre pesos abiertos se había vuelto llamativo, dado el vínculo comercial directo de la compañía con la destilación. Anthropic ha acusado al laboratorio Qwen de Alibaba de llevar a cabo su mayor campaña de destilación contra Claude, usando 25.000 cuentas falsas para 29 millones de intercambios.

Amodei reconoció que su aplicación es “difícil” porque las cuentas solo pueden ser identificables después de que ya se haya llevado a cabo una destilación sustancial. Pidió una intervención política en lugar de depender de una sola empresa para vigilar la práctica.

La distinción de Anthropic es directa: apoya los pesos abiertos que no tienen capacidades peligrosas, pero se opone a los modelos construidos extrayendo conocimiento de sus sistemas cerrados, entrenados con chips de contrabando o lanzados sin pruebas de seguridad.