Yandex ahorra 9.2 mil millones de rublos en infraestructura

Yandex afirma que ahorró 9.2 mil millones de rublos durante la primera mitad de 2026 al optimizar su infraestructura de cómputo. La empresa está redirigiendo la capacidad liberada para ampliar el desarrollo de tecnologías de inteligencia artificial.

Cómo Yandex redujo los costes de cómputo de la IA

Un cambio central fue la redistribución dinámica de los recursos de cómputo. Cuando la demanda de los usuarios cae, la capacidad disponible se asigna automáticamente a otras cargas de trabajo. Por la noche, por ejemplo, las GPU pueden dedicarse al entrenamiento de nuevos modelos en lugar de permanecer vinculadas a servicios orientados al usuario.

Yandex también ajustó los propios modelos:

Recomendado

Alice AI de Yandex alcanza 49,5 millones de usuarios

• Algunos modelos se migraron a una arquitectura Mixture of Experts (MoE), en la que solo se activa la parte de la red neuronal necesaria para una solicitud concreta.
• Los ingenieros entrenaron modelos más pequeños empleando modelos más grandes ya entrenados.
• Se utilizó cuantización para reducir los recursos necesarios para la operación de los modelos.

La empresa también aceleró la carga de datos, paralelizó los cálculos y añadió caché para operaciones repetidas. Yandex dice que implementó EAGLE, una tecnología que acelera la generación de respuestas al predecir varios tokens subsecuentes.

Optimización de CPU y almacenamiento

El programa se extendió más allá de la infraestructura de IA. En servidores basados en CPU que soportan búsquedas, recomendaciones y otros productos de alta carga, los ingenieros aplicaron PGO y BOLT. Estas tecnologías analizan cargas de trabajo reales del servicio y ayudan a los procesadores a realizar más operaciones sin aumentar los recursos utilizados.

Yandex también revisó cómo se gestionan los datos de servicio a lo largo de su ciclo de vida. El trabajo incluyó la eliminación de duplicados innecesarios, la prueba de nuevos algoritmos de compresión y el despliegue de herramientas para identificar tablas, campos y copias de seguridad no utilizadas. Además, la compañía optimizó cómo se distribuyen los datos entre HDD, SSD y otros tipos de almacenamiento.

Los ingenieros del grupo de Servicios de Búsqueda y del negocio de IA de Yandex lideran el proyecto junto con el equipo interno de infraestructura de la compañía. Los cambios se están desplegando en los productos a través de una plataforma unificada de ML que gestiona todo el ciclo de vida del modelo, desde el entrenamiento hasta su uso en producción. Yandex no proporcionó un desglose de los 9.2 mil millones de rublos por optimización o servicio individual.