Mistral kündigte am 28. Oktober 2026 die Responses API als öffentliche Vorschau für Anwendungen und Agenten an. Sie nutzt das OpenAI Responses-Format. Für Entwickler bleibt eine zentrale Aufgabe bei der eigenen Anwendung: Sie muss den Gesprächsverlauf speichern und zurückgegebene Funktionsaufrufe selbst ausführen.
Welche Eingaben und Ausgaben die Vorschau unterstützt
Mistrals Responses API nimmt Text, Bilder und Dateien entgegen. Für Bildanfragen braucht es ein Modell mit Bildverarbeitung; Dateien lassen sich über eine HTTPS-Adresse, eine Base64-Daten-URL oder eine zuvor hochgeladene Datei-ID übergeben. Mistral zufolge funktioniert die Schnittstelle mit seinen gehosteten Chatmodellen, darunter Mistral Large 4. Bildverarbeitung und Reasoning-Funktionen hängen jedoch vom gewählten Modell ab.
Eine Antwort kann einzelne Nachrichten, Reasoning-Elemente und Funktionsaufrufe enthalten. Für strukturierte Ausgaben bietet Mistral JSON-Modus und JSON Schema über text.format. Beim Streaming erhalten Anwendungen Text- und Funktionsargument-Ereignisse. Sie sollten außerdem abgeschlossene, fehlgeschlagene oder unvollständige Antworten sowie Fehlerereignisse verarbeiten.
Die Beispiele in Mistrals Dokumentation verwenden unter anderem Mistral Large 4. NeoTeo hat die frühere API-Vorschau dieses Modells bereits eingeordnet.
Bei Funktionsaufrufen bleibt die Anwendung am Steuer
Mistral Responses API ist zustandslos: Die Anwendung hält den Gesprächsverlauf vor und sendet ihn mit den vorherigen Ausgabe-Elementen bei der nächsten Anfrage erneut. Der dokumentierte Erstellungsendpunkt lautet POST /v1/responses.
Fordert das Modell eine Funktion an, liefert es deren Namen und Argumente zurück. Die Anwendung muss die Argumente prüfen, die Funktion in ihrem eigenen Code ausführen und das Ergebnis mit der passenden call_id zurücksenden. Anschließend schickt sie den aktualisierten Verlauf mit den vorherigen Ausgabe-Elementen erneut an das Modell. Die Funktion wird also nicht von einer serverseitigen Mistral-Laufzeit ausgeführt.
Für die Eingabetoken-Zählung gibt es den separaten Endpunkt POST /v1/responses/input_tokens. Er zählt die übermittelte Eingabe einschließlich Verlauf, Anweisungen und Werkzeugdefinitionen. Mistrals Referenz führt außerdem usage.input_tokens_details.cached_tokens als Feld für zwischengespeicherte Eingabetokens auf. Der Parameter prompt_cache_key kann die Wahrscheinlichkeit eines Cache-Treffers erhöhen, garantiert ihn aber nicht.
Was das OpenAI-Format für einen Umstieg bedeutet
Mistral sagt, dass die Responses API das OpenAI Responses-Format nutzt und sowohl für neue Anwendungen als auch für bestehende Integrationen gedacht ist. Das gemeinsame Format ist jedoch keine Zusage, dass jede OpenAI-Integration unverändert funktioniert. Modellverhalten und Funktionen können abweichen; zudem müssen Entwickler den Verlauf und die Ausführung von Werkzeugen in ihrer Anwendung handhaben.
Mistral dokumentiert Beispiele für Python und TypeScript und verwendet dafür den API-Schlüssel in der Umgebungsvariable MISTRAL_API_KEY. Die vollständigen Abläufe und Parameter beschreibt Mistrals Responses-API-Dokumentation.
