• 3 min de lectura
Modal dice que puede iniciar 1 millón de sandboxes en menos de un minuto
Modal reconstruyó su plataforma de sandboxes para eliminar cuellos de botella centrales, y afirma que ahora puede ejecutar 1 millón de sandboxes concurrentes y crear decenas de miles por segundo.
Imagen: Hacker News
Modal afirma que ha reconstruido su plataforma de sandboxes para manejar una clase de cargas de trabajo muy diferente: millones de sandboxes concurrentes y decenas de miles de creaciones de sandboxes por segundo. En un benchmark que la empresa publicó el 16 de julio de 2026, dijo que ejecutó 1 millón de sandboxes de forma concurrente, creando todos ellos en menos de un minuto.
Modal afirma que la demanda está impulsada por el aprendizaje por refuerzo y las cargas de trabajo de agentes de rápido crecimiento. La compañía ya ejecuta millones de sandboxes al día y soporta hasta 50.000 sandboxes concurrentes por cliente, pero su sistema anterior, según la propia empresa, no fue diseñado para los patrones masivos y en ráfaga que requieren estos nuevos casos de uso.
El cambio central es arquitectónico. Modal dice que eliminó la coordinación central del camino crítico de creación de sandboxes, reemplazando un diseño más tradicional de plano de control por una flota de servidores de planificación escalados horizontalmente. Esos planificadores toman decisiones de colocación usando datos en caché en memoria y luego contactan directamente a los nodos worker por RPC para crear un sandbox. Los nodos worker publican el estado en un stream de Redis, y las escrituras duraderas de metadatos y resultados ocurren mayormente de forma asincrónica en lugar de bloquear la creación.
Recomendado
Google dice que las indicaciones necesitan compilaciones, no monolitos
Por qué Modal se alejó de la coordinación central
La empresa argumenta que los sistemas convencionales de contenedores alcanzan límites de escalado porque demasiadas operaciones crecen con el número de contenedores o nodos. Señala a Kubernetes como ejemplo, citando la complejidad del planificador, la fuerte dependencia de etcd y el tráfico de latidos (heartbeats) de los nodos que escala con el tamaño del clúster.
Modal afirma que su arquitectura original tenía problemas similares. Al igual que Kubernetes, dependía de consistencia fuerte y puso a Postgres en medio de la creación y la planificación de sandboxes, lo que implicaba coordinación global y escrituras O(sandboxes) que eran difíciles de fragmentar en shards.
En el nuevo diseño, Modal dice que no hay almacenes de datos en la ruta crítica para la creación de sandboxes, y no hay RPCs aparte de la propia creación del sandbox que escalen con el número de sandboxes. Según la compañía, la ruta de creación ahora toma dos saltos de red y una operación de CPU económica.
El trabajo llevó meses, y afectó al backend de la compañía, a la pila de gestión de workers y al runtime de contenedores. Modal indica que un problema fue que sus nuevos planificadores podían lanzar contenedores tan rápido que la contención del bloqueo rtnl de Linux durante la configuración de la red provocaba retrasos de inicio de decenas de segundos, lo que obligó a realizar cambios en el networking de contenedores.
Rendimiento en la prueba de 1 millón de sandboxes
Modal afirma que el tiempo hasta la interactividad de cada sandbox se mantuvo bajo incluso a escala. En sus pruebas, el tiempo medio de arranque de un sandbox —desde la primera petición del cliente hasta el punto en que el código de usuario puede ejecutarse— fue inferior a medio segundo, mientras que la propia planificación ahora toma decenas de milisegundos.
La compañía dice que la cola de latencia sigue siendo más larga de lo que desea, y atribuye gran parte de ello a la contención del kernel y de la red cuando muchos sandboxes se inician simultáneamente en el mismo worker. Aun así, Modal indica que el nuevo sistema ya está disponible en Beta y pronto respaldará toda la planificación de sandboxes en la plataforma, siendo la activación opcional y requiriendo solo un simple cambio en el código.
Enterprise Editor
Marcus follows the money. He covers enterprise software, cloud architecture, and the tectonic shifts in Big Tech strategy. He translates dense earnings calls and complex M&A activity into actionable insights about where the industry is actually heading. If a tech giant makes a silent pivot, Marcus is usually the first to notice.
vía Hacker News
