Mistral AI hat die Gewichte von Mistral Large 4 am 29. Oktober 2026 zum Download veröffentlicht. Damit lässt sich das Modell auf eigener Infrastruktur betreiben. Mistrals vLLM-Beispiel nutzt Tensorparallelität mit dem Wert 8 und nennt zwei Einstellungen, die bei knappem GPU-Speicher helfen können. Das ist eine Beispielkonfiguration, keine Mindestanforderung an die Zahl der GPUs. (Ankündigung von Mistral AI, Modellkarte)
Die öffentliche Vorschau hatte am 6. Oktober begonnen. NeoTeo berichtete damals über den Start der Vorschau; mit dem Download der Gewichte kam am 29. Oktober der Schritt zum selbst verwalteten Betrieb hinzu.
Was im veröffentlichten Checkpoint steckt
Der offizielle Hugging-Face-Checkpoint heißt mistralai/Mistral-Large-4-1T-A52B. Mistral beschreibt Large 4 als multimodales Mixture-of-Experts-Modell: Es verarbeitet Text und Bilder und gibt Text aus. Das angegebene Kontextfenster umfasst eine Million Tokens. Insgesamt hat das Modell rund 1,05 Billionen Parameter. Für die aktiven Parameter nennt Mistral 49 Milliarden ohne Einbettungs- und Ausgabeschichten und 52 Milliarden, wenn diese mitgezählt werden. (Modellkarte von Mistral)
Amine AI zeigt in seinem englischsprachigen Video einen direkten Promptvergleich zwischen Mistral Large 4 und Claude Opus 5.5. Das Video ist die Rezension und der Test des Erstellers, kein standardisierter Benchmark.
Was Mistrals vLLM-Beispiel für den Betrieb aussagt
Mistrals vLLM-Konfiguration enthält --tensor-parallel-size 8. Tensorparallelität teilt die Berechnung eines Modells auf mehrere GPUs auf. Die Zahl 8 bezeichnet hier den Wert in Mistrals Beispiel, nicht eine allgemeine Mindestzahl benötigter GPUs.
Wenn der GPU-Speicher nicht reicht, empfiehlt Mistral, --max-model-len und/oder --max-num-seqs zu verringern. Die erste Einstellung begrenzt die maximale Modelllänge, die zweite die Zahl gleichzeitig verarbeiteter Sequenzen. Für die Planung sind damit neben der Hardware auch Kontextlänge und parallele Anfragen relevant. Mistral nennt außerdem SGLang, Transformers und llama.cpp als unterstützte Bereitstellungssoftware und empfiehlt vLLM für produktionsreife Inferenz. (Modellkarte von Mistral)
Wann die Lizenz eine separate Vereinbarung verlangt
Die Mistral Ecosystem Open-Weight License ist eine modifizierte MIT-Lizenz. Sie erlaubt unter ihren Bedingungen unter anderem Nutzung, Änderung, Weitergabe, Verkauf und kommerzielle Verwendung. Für bestimmte Model-as-a-Service-Angebote (MaaS), bei denen Dritte das Modell für Inferenz oder Nachtraining nutzen und maßgebliche Kontrolle über Eingaben, Parameter oder Trainingsdaten erhalten, enthält Abschnitt 2 eine zusätzliche Bedingung: Betreibt der Lizenznehmer oder ein verbundenes Unternehmen ein solches Angebot, muss vor der kommerziellen Nutzung des Modells oder seiner Ableitungen eine separate kommerzielle Lizenz mit Mistral abgeschlossen werden. (Lizenztext)
| Bereitstellungsform | Behandlung in der Lizenz |
| Interne Nutzung ohne Zugang für Dritte | Abschnitt 3 nimmt diese Nutzung von der MaaS-Bedingung aus. |
| MaaS mit maßgeblicher Kontrolle durch Dritte | Für Lizenznehmer oder verbundene Unternehmen, die ein solches Angebot betreiben, verlangt Abschnitt 2 eine separate kommerzielle Lizenz vor der kommerziellen Nutzung des Modells oder seiner Ableitungen. |
| Endnutzerprodukt mit ausschließlich eingebetteten Modellfunktionen | Aus der MaaS-Definition ausgenommen, wenn die Modellfunktionen ausschließlich in bestimmte Funktionen oder eine entsprechende technische Einbettung integriert sind. |
| Weiterleitung von Anfragen an fremdgehostete Modelle | Aus der MaaS-Definition ausgenommen. |
Die Lizenz nimmt außerdem die Nutzung über offizielle Produkte von Mistral aus. Bei einem eigenen kostenpflichtigen Inferenzdienst kommt es deshalb auf die Lizenzdefinition und die konkrete Art des Zugangs für Dritte an, nicht allein darauf, ob ein Angebot Geld kostet.
API-Preise und Benchmark-Kosten sind unterschiedliche Größen
Der Download der Gewichte ist eine andere Bereitstellungsform als Mistrals gehostete API. Mistrals Dokumentation nennt dafür Preise in US-Dollar pro Million Tokens: 0,70 US-Dollar für Eingabetokens, 0,07 US-Dollar für zwischengespeicherte Eingabetokens und 2,10 US-Dollar für Ausgabetokens. (Mistrals Modelldokumentation)
Artificial Analysis führt Mistral Large 4 (high) mit 2,06 US-Dollar pro Intelligence-Index-Aufgabe. Dieser Wert beschreibt die Kosten der Benchmark-Aufgabe; er ist keine Kostenschätzung für eine eigene Anwendung. API-Tokentarife, der Benchmarkwert und die Kosten für den Betrieb eigener Infrastruktur messen verschiedene Dinge. (Leaderboard von Artificial Analysis)
