Perplexity stellte die Orchestrator API am 17. November 2026 vor. Sie bündelt den Zugriff auf proprietäre und Open-Weight-Modelle samt Abrechnung. Beim Provider-Failover kann der Dienst nach einem geeigneten Fehler eine andere Bereitstellung desselben gewählten Modells versuchen. Die optionale Preview perplexity/auto trifft dagegen für jede Anfrage eine eigene Modellwahl. Perplexitys Ankündigung und Dokumentation zum Routing beschreiben diese getrennten Funktionen.
Für die Fehlerbehandlung ist entscheidend, ob die Bereitstellung oder das Modell wechseln soll: Orchestrator behandelt das als zwei verschiedene Routing-Entscheidungen.
Wie unterscheiden sich Provider-Failover und Modell-Routing?
Beim Provider-Failover wechselt Orchestrator die Bereitstellung, nicht das zuvor gewählte Modell. Der Dienst wählt automatisch eine Bereitstellung anhand beobachteter Fehlerraten, Kapazität und Latenz aus. Tritt ein geeigneter Fehler auf, kann er eine andere Bereitstellung desselben Modells versuchen.
| Routing-Funktion | Zeitpunkt der Entscheidung | Was sich ändern kann | Umfang |
| Provider-Failover | Bei der Auswahl einer Bereitstellung und nach einem geeigneten Fehler | Die Bereitstellung; das gewählte Modell bleibt gleich | Automatische Auswahl anhand beobachteter Fehlerraten, Kapazität und Latenz |
Modell-Routing mit perplexity/auto | Bei jeder Anfrage | Das Modell | Optionale Preview mit Standardrichtlinie oder benutzerdefinierten Routen |
Mit perplexity/auto kann die Modellwahl zwischen Anfragen wechseln. Eigene Routing-Regeln können ein Standardmodell und ein bis fünf Routen enthalten. Für die Auswahl nutzt das Entscheidungsmodell den Gesprächsverlauf und die Beschreibungen der Routen, nicht deren Namen oder Modellkennungen. Perplexitys Routing-Dokumentation beschreibt diese Einstellungen als eigene Funktion neben dem Bereitstellungsrouting.
Welche Formate und Gesprächsdaten braucht die API?
Orchestrator unterstützt OpenAI Chat Completions, OpenAI Responses und Anthropic Messages. Wer ein vorhandenes OpenAI- oder Anthropic-SDK verwendet, kann es laut Quickstart-Dokumentation durch Änderungen an API-Schlüssel und Basis-URL auf den Dienst umstellen.
Die API ist zustandslos: Bei einer Fortsetzung muss die Anwendung den bisherigen Gesprächsverlauf mit jeder Anfrage erneut mitsenden. Die Abrechnung richtet sich nach dem veröffentlichten Tokenpreis des Modells, das antwortet, unabhängig davon, welche Anbieter-Bereitstellung dieses Modell ausführt. Nutzt eine Anwendung perplexity/auto, können deshalb verschiedene Anfragen unterschiedliche Modelle und Tokenpreise haben. Die Modell- und Routing-Dokumentation erläutert die Abrechnungsbasis.
Was berichtet Perplexitys Benchmark?
In einem angepassten Terminal-Bench-4.1-Vergleich mit 63 Aufgaben meldete Perplexity für jede von zwei gerouteten Claude-Code-Konfigurationen 41 gelöste Aufgaben. Claude Fable 5.2 allein löste 38. Die geschätzten Kosten pro Aufgabe waren bei den gerouteten Konfigurationen höher, so Perplexitys Bericht zum Benchmark.
| Konfiguration | Gelöste Aufgaben von 63 | Geschätzte Kosten pro Aufgabe |
| Jede der beiden gerouteten Claude-Code-Konfigurationen | 41 | Höher als bei Claude Fable 5.2 allein |
| Claude Fable 5.2 allein | 38 | Niedriger als bei den gerouteten Konfigurationen |
Für Entwickler zeigt dieser Vergleich einen konkreten Zielkonflikt: In diesem Test gingen mehr gelöste Aufgaben mit höheren geschätzten Kosten pro Aufgabe einher. Ob sich das für eine Anwendung lohnt, hängt davon ab, wie viel ihr die zusätzlichen Aufgaben wert sind.
Perplexity berichtete außerdem über einen Zuverlässigkeitsvergleich für den Zeitraum vom 4. Oktober bis zum 2. November 2026. Anfragen über Orchestrator seien häufiger erfolgreich gewesen als Anfragen an jeden einzelnen verglichenen Anbieter; während Anbieter-Störungen hätten die Erfolgswerte zudem weniger tägliche Schwankungen gezeigt. Perplexity schloss ungültige Anfragen und Verstöße gegen kundenseitige Ratenlimits aus seiner Fehlerzählung aus. Die Ankündigung des Unternehmens beschreibt diesen Vergleich.