Empresa emergente apunta a Nvidia con servidor de IA de 128TB

Crédito de la imagen: blocksandfiles

Majestic Labs, una empresa emergente fundada en 2023 por exingenieros de Google y Meta, ha presentado un servidor diseñado para desafiar la combinación de GPU y memoria de alto ancho de banda (HBM) de Nvidia. La compañía, con sede en Tel Aviv, afirma que emparejar procesadores gráficos caros con HBM ha creado una arquitectura limitada por la memoria para la inferencia de IA.

Su alternativa es Prometheus, que reemplaza las GPU por Ignite AI Processing Units (AIU). Cada AIU combina núcleos Arm con motores vectoriales y tensoriales RISC-V.

Cómo escala la memoria de Prometheus

Un servidor Prometheus puede alojar hasta 12 AIU y entre 8TB y 128TB de memoria LPDDR6. La memoria se comparte en un único conjunto contiguo y coherente en lugar de estar conectada directamente a los paquetes de GPU.

Recomendado

Walsh coloca un gestor de riesgo con capacidad de veto sobre cuatro agentes de trading

Majestic conecta la reserva mediante chiplets personalizados de agregación de memoria y cables de cobre de hasta un metro de longitud. Cuatro servidores Prometheus pueden caber en un rack estándar de 40U, consumiendo 120kW en total y utilizando refrigeración líquida por placas frías en lugar de refrigeración por aire.

Para comparar, el sistema DGX B300 de Nvidia combina ocho GPU Blackwell con 2.3TB de HBM3e y hasta 4TB de memoria de sistema DDR5. Majestic afirma que su diseño ofrece más de 50 veces más memoria rápida que esa configuración, junto con 1.7 veces su ancho de banda de interconexión.

“One Majestic rack holds the fast memory capacity of 25 Nvidia NVL72 Vera Rubin racks at a fraction of the power.”

La compañía también afirma que Prometheus puede ofrecer hasta 1,000 veces más memoria por procesador. No explicó en el anuncio cómo se calcula esa cifra.

Coste, software y disponibilidad

Majestic Labs dice que Prometheus podría costar entre 10 y 50 veces menos que un sistema basado en GPU que ofrezca un rendimiento equivalente una vez que se envíe el próximo año, además de consumir menos electricidad por rack. El servidor está diseñado para cumplir con OCP y será compatible con PyTorch, vLLM y Triton de OpenAI, lo que permitirá ejecutar modelos de IA existentes sin modificaciones.

La compañía fue fundada por el CEO Ofer Shacham, el presidente Sha Rabii y la COO Masumi Reynders. Emplea a alrededor de 40 personas entre Tel Aviv y Los Ángeles y recaudó $100 million en una ronda de Serie A a finales de 2025. Majestic dice que ya ha recibido pedidos significativos de grandes empresas, neoclouds e hyperscalers.

Siguen sin resolverse varios detalles de hardware. Majestic no ha dicho cuántos chiplets de agregación de memoria requiere cada servidor. Si una configuración de 128TB utilizara dies LPDDR6 de 2GB ampliamente disponibles, necesitaría aproximadamente 64,000 dies, lo que implicaría muy por encima de cien chiplets de agregación por servidor.

Las cifras de rendimiento, coste y consumo energético siguen siendo proyecciones de Majestic Labs. La compañía aún no ha enviado el hardware ni ha proporcionado resultados de benchmarks independientes, por lo que los compradores empresariales deberán esperar a pruebas más amplias antes de que se puedan validar sus afirmaciones.

Vía Blocks and Files

Sigue a TechRadar en Google News y añádelo como fuente preferida para noticias, reseñas y opiniones de expertos.