Biren presenta un supernodo óptico de IA con 1,024 aceleradores

Biren Technology ha presentado una arquitectura de supernodo de IA diseñada para combinar hasta 1,024 aceleradores en un único sistema. La compañía lo mostró en la Conferencia Mundial de Inteligencia Artificial (WAIC) en Shanghái, sosteniendo que los interconectores ópticos pueden superar los límites que surgen en grandes clústeres de IA.

A medida que los servidores de aceleradores se acercan a un techo práctico de aproximadamente 128 GPUs, el cuello de botella pasa cada vez más del cómputo a la comunicación: mover datos de manera rápida y eficiente entre chips vecinos. El diseño de Biren utiliza enlaces ópticos para reemplazar algunas conexiones de cobre y, al mismo tiempo, integrar las unidades de cómputo en un espacio de memoria compartida.

Las tres configuraciones de supernodo de Biren

La compañía presentó una familia de aceleradores BR2xx para estos sistemas, junto con Blink 2.0, un protocolo destinado a crear un espacio de direcciones común entre un gran número de tarjetas. Ese enfoque podría trasladar parte de la complejidad de la computación distribuida desde el software hacia la capa de infraestructura.

Recomendado

Un marco de resumen reduce el cómputo hasta en un 40%

Biren describió tres niveles de sistema:

• 16 aceleradores para servidores estándar
• 128 aceleradores para configuraciones de alta densidad
• Un supernodo óptico distribuido con 1,024 aceleradores

La configuración más grande se apoya en la óptica para reducir las limitaciones impuestas por la longitud de los cables, la distancia entre nodos, la pérdida de señal y la energía requerida para transferir datos.

La arquitectura también utiliza óptica cercana al paquete (NPO), situada cerca de los componentes de cómputo. La NPO actúa como una capa intermedia entre el bloque de cálculo y la red, acortando las rutas eléctricas y reduciendo las pérdidas asociadas a largas conexiones de cobre.

Los interconectores ópticos avanzan en la pila de infraestructura de IA

Biren no está sola en la búsqueda de arquitecturas ópticas. Empresas chinas como Huawei, Alibaba, MetaX y Enflame están desarrollando enfoques similares, mientras que compañías fuera de China también estudian sistemas ópticos a medida que los diseños convencionales se vuelven más difíciles de escalar.

Cuando los aceleradores individuales se hacen más rápidos, el rendimiento global depende cada vez más de la rapidez con la que cientos de dispositivos pueden intercambiar tensores y sincronizarse. Incluso pequeños retrasos en la red pueden traducirse en tiempo de entrenamiento perdido, mientras que los clústeres más grandes también aumentan las exigencias en memoria, refrigeración y soporte de software.

La óptica podría convertirse en un nuevo estándar si los fabricantes pueden ofrecer el rendimiento requerido, la compatibilidad de software y costes de producción adecuados. Las pruebas independientes determinarán si la arquitectura de Biren progresa más allá de una demostración hacia los centros de datos; a un precio asequible, la competencia podría desplazarse de los aceleradores individuales hacia los supernodos más rápidos y densos.