Desplegar un modelo en Cerebras significa repartir sus capas entre obleas WSE-3T, mantener allí los pesos y pasar las activaciones de una etapa a otra. En un ejemplo publicado el 22 de octubre de 2026, Cerebras calcula que Kimi K3 ocuparía 59 obleas: 69 capas de atención lineal y 24 capas densas.
La asignación depende de cómo se reparte la memoria entre los pesos y la caché de cada petición. Estas son las condiciones del ejemplo de Cerebras, no una regla universal para cualquier modelo.
Cómo se distribuyen las 93 capas en 59 obleas
Cerebras basa el cálculo en un modelo de unos 3 billones de parámetros, pesos de 4 bits, caché KV de 8 bits y una petición media supuesta de 256.000 tokens. La cuantización a 4 bits representa cada parámetro con cuatro bits; con esa precisión, el cálculo de la empresa da 1,5 terabytes de pesos en bruto. Repartidos entre 93 capas, son unos 16 GB por capa.
Cada oblea WSE-3T tiene 44 GB de SRAM, memoria integrada en el procesador, según Cerebras. La empresa aplica dos reglas de asignación:
| Tipo de capa | Capas de Kimi K3 | Capas por oblea | Obleas del ejemplo | Uso de memoria indicado |
| Atención lineal | 69 | 2 | 35 | Unos 32 GB para los pesos de dos capas |
| Densa | 24 | 1 | 24 | Unos 16 GB para los pesos y 28 GB restantes para la caché KV |
Como 69 capas lineales no se dividen exactamente en grupos de dos, hacen falta 35 obleas para ese bloque. Las 24 capas densas ocupan otras 24 obleas. El total del ejemplo es 35 + 24 = 59.
Cómo se solapan las peticiones en la canalización
El compilador asigna las capas a las obleas y el entorno de ejecución organiza el flujo de tokens. Los pesos permanecen en las etapas; las activaciones, es decir, los valores intermedios que produce el modelo, pasan de una etapa a la siguiente. Cerebras dice que ese tráfico usa RDMA, o acceso directo a memoria remota, sobre Ethernet, con unos 2 microsegundos por salto.
La canalización también permite que distintas peticiones ocupen etapas diferentes a la vez. Los micro-lotes agrupan varias peticiones para procesarlas conjuntamente: Cerebras describe los pequeños como una opción favorable a la rapidez de cada petición, y los grandes como una forma de aumentar el rendimiento total.
Qué significa la estimación de 190 peticiones
En una oblea con una capa densa, Cerebras calcula que quedan 28 GB para la caché KV. La empresa estima que una petición de 256.000 tokens requiere unos 147 MB de esa memoria y, a partir de ahí, calcula alrededor de 190 peticiones simultáneas. Es una cuenta redondeada con los supuestos del ejemplo, no una capacidad de servicio observada.
Por eso, la cifra se entiende junto con el tamaño de petición y la precisión de la caché: cambiar esas condiciones altera el cálculo. El número describe el ejemplo de Kimi K3, no un límite general de WSE-3T.
El acceso desde un SDK es otra capa
La distribución física de capas es distinta de la integración de un modelo en una aplicación. La documentación de AI SDK para Cerebras describe dos vías: AI Gateway puede dar preferencia a Cerebras, pero recurrir a otro proveedor disponible del mismo modelo si la petición falla o Cerebras no está disponible; el acceso directo mediante @ai-sdk/cerebras usa CEREBRAS_API_KEY y permite emplear API específicas del proveedor o configurar conexiones personalizadas.
Así, elegir Cerebras como preferencia en Gateway no garantiza que todas las peticiones se atiendan en Cerebras. El acceso directo y el mapeo de capas en obleas resuelven tareas distintas.
