In einem technischen Beitrag vom 22. Oktober 2026 beschreibt Cerebras, wie das Unternehmen die 93 Schichten des rund 3 Billionen Parameter großen Modells Kimi K3 in einem Beispiel auf 59 WSE-3T-Wafer verteilt: 35 für 69 Linear-Attention-Schichten und 24 für 24 Dense-Schichten. Die Rechnung setzt 4-Bit-Gewichte, einen 8-Bit-KV-Cache und durchschnittlich 256.000 Tokens pro Anfrage voraus. Sie veranschaulicht damit, wie Cerebras Speicherbelegung und Anfragen-Pipeline plant.
Warum das Kimi-K3-Beispiel 59 Wafer ergibt
Cerebras gibt für jeden WSE-3T-Wafer 44 GB SRAM an, also schnellen Speicher direkt auf dem Chip. Bei 4-Bit-Gewichten ergeben sich aus den rund 3 Billionen Parametern laut der Beispielrechnung 1,5 Terabyte Rohdaten. Verteilt auf 93 Schichten sind das im Mittel etwa 16 GB pro Schicht.
Die Aufteilung richtet sich nach dem Schichttyp: Zwei Linear-Attention-Schichten kommen auf einen Wafer, eine Dense-Schicht auf einen Wafer. Eine Dense-Schicht lässt so im Beispiel Speicher für den KV-Cache übrig. Dieser „Key-Value-Cache“ hält Zwischenwerte aus dem bisherigen Kontext bereit, damit das Modell bei der Textgenerierung darauf zugreifen kann.
| Schichttyp | Schichten in Kimi K3 | Schichten je Wafer | Wafer im Beispiel | Speicherbelegung laut Beispiel |
| Linear Attention | 69 | 2 | 35 | Zwei Schichten mit jeweils rund 16 GB Gewichten |
| Dense | 24 | 1 | 24 | Rund 16 GB für Gewichte; etwa 28 GB bleiben für den KV-Cache |
Für die 69 Linear-Attention-Schichten braucht diese Aufteilung 35 Wafer; die 24 Dense-Schichten belegen weitere 24. Zusammen sind es 59 Wafer. Die Zahlen gelten für die genannten Präzisions- und Anfrageannahmen des Beispiels.
Wie Aktivierungen durch die Pipeline laufen
Die Modellgewichte bleiben den Wafer-Stufen zugeordnet, während Aktivierungen zwischen den Stufen weitergegeben werden. Aktivierungen sind Zwischenergebnisse, die das Modell bei der Verarbeitung einer Anfrage erzeugt. Cerebras beschreibt die Übertragung zwischen Wafern per RDMA über Ethernet. RDMA steht für „Remote Direct Memory Access“, den direkten Zugriff auf Speicher eines anderen Systems. Für einen einzelnen Übertragungsschritt nennt Cerebras rund 2 Mikrosekunden pro Hop.
Verschiedene Anfragen können gleichzeitig unterschiedliche Stufen der Pipeline belegen. Cerebras beschreibt außerdem Mikro-Batches, also gemeinsam verarbeitete Gruppen von Anfragen: Kleinere Batches begünstigen die Geschwindigkeit pro Anfrage, größere den Gesamtdurchsatz. Welche Werte sich daraus für diese Konfiguration ergeben, weist das Beispiel nicht aus.
Was die Schätzung von rund 190 Anfragen bedeutet
Cerebras rechnet für eine Dense-Schicht mit etwa 28 GB verbleibendem Speicher für den KV-Cache. Bei rund 147 MB Cache pro angenommener Anfrage mit 256.000 Tokens ergibt die Rechnung ungefähr 190 gleichzeitige Anfragen. Das ist eine gerundete Schätzung aus den Speicher- und Anfrageannahmen des Beispiels.
Wafer-Zuordnung und SDK-Zugriff sind zwei Ebenen
Die Wafer-Zuordnung beschreibt, wie Cerebras Modellschichten auf Hardware verteilt. Für die Einbindung in eine Anwendung dokumentiert das AI SDK einen anderen Weg: Über das AI Gateway lässt sich Cerebras bevorzugen. Bei einem Fehler oder wenn Cerebras nicht verfügbar ist, kann das Gateway auf einen anderen verfügbaren Anbieter desselben Modells zurückgreifen.
Der direkte Zugriff über @ai-sdk/cerebras ist separat dokumentiert und unterstützt anbieterspezifische APIs sowie eigene Verbindungseinstellungen. Dafür wird der API-Schlüssel über die Umgebungsvariable CEREBRAS_API_KEY eingebunden.
