A Cerebras distribui as 93 camadas do Kimi K3 por 59 wafers WSE-3T no exemplo que publicou em 22 de outubro de 2026. A conta considera pesos de 4 bits, cache KV de 8 bits e solicitações médias presumidas de 256 mil tokens. É um mapa ilustrativo, não uma capacidade medida em operação.
Por que a conta chega a 59 wafers
O Kimi K3 tem cerca de 3 trilhões de parâmetros: 69 camadas de atenção linear e 24 camadas densas. Cada wafer WSE-3T tem 44 GB de SRAM, a memória integrada ao processador. Com os pesos quantizados em 4 bits, a Cerebras calcula um volume bruto de 1,5 TB, ou cerca de 16 GB por camada quando dividido pelas 93 camadas.
A distribuição muda conforme o tipo de camada. Uma camada densa ocupa cerca de 16 GB e usa o espaço restante para o cache KV, que guarda chaves e valores dos tokens nas solicitações ativas. Já a atenção linear mantém um estado pequeno por solicitação, em vez de armazenar esses dados para cada token; por isso, o exemplo coloca duas dessas camadas em cada wafer.
| Tipo de camada | Camadas no Kimi K3 | Camadas por wafer | Wafers calculados | Uso da memória no exemplo |
| Atenção linear | 69 | 2 | 35 | Cerca de 32 GB para duas camadas de aproximadamente 16 GB cada |
| Densa | 24 | 1 | 24 | Cerca de 16 GB para a camada e 28 GB restantes para o cache KV |
Assim, a conta soma 35 wafers para as 69 camadas de atenção linear e 24 para as camadas densas, totalizando 59. A divisão explica a estimativa para as premissas descritas, não um requisito universal para outros modelos ou configurações.
Como as ativações atravessam o pipeline
O compilador distribui as camadas pelas etapas, e o runtime organiza o caminho dos tokens entre elas. Os pesos ficam armazenados nos wafers; no fluxo descrito pela Cerebras, são as ativações, os resultados intermediários do processamento, que passam de uma etapa à seguinte.
A empresa diz que essa transferência usa RDMA sobre Ethernet, uma forma de acesso direto à memória remota, e leva cerca de 2 microssegundos por salto entre etapas. Esse valor é por salto. Não representa o tempo total de resposta do modelo.
O pipeline também permite que solicitações diferentes avancem ao mesmo tempo. Enquanto uma etapa processa uma solicitação, outra etapa pode trabalhar em outra. Micro-lotes, pequenos grupos de solicitações processados juntos, ajustam o fluxo: lotes menores favorecem a velocidade de cada solicitação; lotes maiores elevam o throughput total, ou seja, a quantidade processada ao longo do tempo.
O que significa a estimativa de 190 solicitações
Para as premissas do exemplo, a Cerebras calcula cerca de 28 GB restantes para cache em cada wafer com uma camada densa. A empresa estima que uma solicitação de 256 mil tokens consome aproximadamente 147 MB de cache; dessa divisão resulta a estimativa de cerca de 190 solicitações simultâneas.
Esse número é uma conta arredondada baseada no tamanho de solicitação, na quantização e no cache escolhidos. Ele não mede a capacidade observada de um serviço em produção.
Acesso por SDK não é distribuição em wafers
Distribuir camadas entre wafers é uma tarefa de infraestrutura. Para chamar modelos Cerebras em um aplicativo, a documentação do AI SDK descreve uma rota pelo Gateway e outra de acesso direto ao provedor.
No Gateway, definir Cerebras como preferência não garante que todas as solicitações usem esse provedor: se ele estiver indisponível ou a solicitação falhar, o Gateway pode recorrer a outro provedor disponível para o mesmo modelo. O acesso direto usa @ai-sdk/cerebras e a variável CEREBRAS_API_KEY; a documentação indica essa opção para APIs específicas do provedor ou configurações personalizadas. Consulte a documentação do AI SDK para Cerebras.
