Etched alcanza una valoración de 10.3 mil millones de dólares por sus chips de inferencia

Etched ha alcanzado una valoración de 10.3 mil millones de dólares tras conseguir nuevo respaldo de SK Hynix, mientras la startup estadounidense de chips se prepara para producir sistemas a escala de rack diseñados específicamente para la inferencia de IA.

La compañía sostiene que las GPU convencionales a menudo ofrecen más potencia de cómputo de la que necesitan las cargas de inferencia, y a la vez no proporcionan suficiente memoria para modelos cada vez más grandes. La alternativa de Etched combina procesadores personalizados, memoria compartida y un menor consumo energético en lugar de depender del hardware gráfico de uso general.

Cómo funciona la arquitectura de inferencia de Etched

Fundada por los exalumnos de Harvard Gavin Uberti, Robert Wachen y Chris Zhu, Etched se centra exclusivamente en la inferencia en lugar del entrenamiento de modelos de lenguaje a gran escala. Sus sistemas combinan Inferencia de Bajo Voltaje (LVI) con Memoria a Escala de Clúster (CSM), lo que proporciona a los procesadores acceso a bancos de memoria compartida más grandes que los de las GPU convencionales.

Según Etched, una mayor utilización de la aritmética de punto flotante puede aumentar el consumo energético hasta que los límites térmicos obligan al chip a reducir su frecuencia de reloj. Su arquitectura está diseñada para ejecutar bloques de procesamiento matemático a menos de la mitad del voltaje que usan la mayoría de los chips de IA, lo que, según la compañía, permite varias veces la densidad de FLOPs de los procesadores de IA actuales.

Recomendado

Estudio del MIT concluye que los consejos financieros de IA funcionan, pero con matices

«Hoy, los chips de IA no pueden escalar los FLOPs sin estrangulamiento térmico. A medida que aumenta la utilización de FLOPs, los chips de IA consumen más energía y reducen su frecuencia de reloj…»

La empresa también critica las compensaciones de memoria en el hardware existente. La Memoria de Alta Ancho de Banda (HBM) ofrece capacidad, pero sus subsistemas de memoria e interconexiones no pueden igualar la velocidad de decodificación de la SRAM. El híbrido HBM/SRAM de Etched, en cambio, utiliza un interconector propietario de ultra baja latencia y alto ancho de banda para crear un banco de memoria compartida.

«Nuestro diseño híbrido HBM/SRAM resuelve tanto la capacidad de memoria como la latencia mem2mem, permitiendo alto rendimiento y interactividad al mismo tiempo.»

Según la startup, CSM reduce el tiempo dedicado a mover datos entre chips, memoria y hardware de red al minimizar el número de capas de memoria implicadas en las transferencias. Afirma que el diseño evita las concesiones en coste, fiabilidad, rendimiento de fabricación (yield), térmicas y de cómputo asociadas con chips solo de SRAM, la DRAM 3D y los sistemas ópticos.

Financiación y planes de producción

La financiación de Etched ha crecido rápidamente:

• Ronda semilla de $5.4 millones en 2023
• $120 millones recaudados en 2024
• $500 millones recaudados en 2025
• $300 millones recaudados en 2026

Las rondas suman aproximadamente $925.4 millones. La financiación más reciente duplicó la valoración de Etched, de $5 mil millones a $10.3 mil millones. La ronda C incluyó a Sequoia Capital, Andreessen Horowitz, Jane Street, Diffusion, Argo y SK Hynix.

«Esta ronda acelera la producción de nuestros clústeres de inferencia», dijo Robert Wachen. También confirmó que Etched ha abierto una instalación de 80,000 pies cuadrados y 10 MW cerca de Milpitas. La compañía ahora emplea a más de 400 personas, reporta una demanda de clientes que supera los $1,000 millones y tiene operaciones de fabricación en Taiwán.

Etched afirma que sus sistemas soportarán modelos de lenguaje grandes convencionales, arquitecturas de mezcla de expertos y alternativas como Mamba. La fuente no proporciona precios ni una fecha de lanzamiento comercial para los sistemas.