Perplexity stellte die Orchestrator API am 17. November 2026 vor. Sie bündelt den Zugriff auf proprietäre und Open-Weight-Modelle samt Abrechnung. Beim Provider-Failover kann der Dienst nach einem geeigneten Fehler eine andere Bereitstellung desselben gewählten Modells versuchen. Die optionale Preview perplexity/auto trifft dagegen für jede Anfrage eine eigene Modellwahl. Perplexitys Ankündigung und Dokumentation zum Routing beschreiben diese getrennten Funktionen.

Für die Fehlerbehandlung ist entscheidend, ob die Bereitstellung oder das Modell wechseln soll: Orchestrator behandelt das als zwei verschiedene Routing-Entscheidungen.

Wie unterscheiden sich Provider-Failover und Modell-Routing?

Beim Provider-Failover wechselt Orchestrator die Bereitstellung, nicht das zuvor gewählte Modell. Der Dienst wählt automatisch eine Bereitstellung anhand beobachteter Fehlerraten, Kapazität und Latenz aus. Tritt ein geeigneter Fehler auf, kann er eine andere Bereitstellung desselben Modells versuchen.

Routing-FunktionZeitpunkt der EntscheidungWas sich ändern kannUmfang
Provider-FailoverBei der Auswahl einer Bereitstellung und nach einem geeigneten FehlerDie Bereitstellung; das gewählte Modell bleibt gleichAutomatische Auswahl anhand beobachteter Fehlerraten, Kapazität und Latenz
Modell-Routing mit perplexity/autoBei jeder AnfrageDas ModellOptionale Preview mit Standardrichtlinie oder benutzerdefinierten Routen

Mit perplexity/auto kann die Modellwahl zwischen Anfragen wechseln. Eigene Routing-Regeln können ein Standardmodell und ein bis fünf Routen enthalten. Für die Auswahl nutzt das Entscheidungsmodell den Gesprächsverlauf und die Beschreibungen der Routen, nicht deren Namen oder Modellkennungen. Perplexitys Routing-Dokumentation beschreibt diese Einstellungen als eigene Funktion neben dem Bereitstellungsrouting.

Welche Formate und Gesprächsdaten braucht die API?

Orchestrator unterstützt OpenAI Chat Completions, OpenAI Responses und Anthropic Messages. Wer ein vorhandenes OpenAI- oder Anthropic-SDK verwendet, kann es laut Quickstart-Dokumentation durch Änderungen an API-Schlüssel und Basis-URL auf den Dienst umstellen.

Die API ist zustandslos: Bei einer Fortsetzung muss die Anwendung den bisherigen Gesprächsverlauf mit jeder Anfrage erneut mitsenden. Die Abrechnung richtet sich nach dem veröffentlichten Tokenpreis des Modells, das antwortet, unabhängig davon, welche Anbieter-Bereitstellung dieses Modell ausführt. Nutzt eine Anwendung perplexity/auto, können deshalb verschiedene Anfragen unterschiedliche Modelle und Tokenpreise haben. Die Modell- und Routing-Dokumentation erläutert die Abrechnungsbasis.

Was berichtet Perplexitys Benchmark?

In einem angepassten Terminal-Bench-4.1-Vergleich mit 63 Aufgaben meldete Perplexity für jede von zwei gerouteten Claude-Code-Konfigurationen 41 gelöste Aufgaben. Claude Fable 5.2 allein löste 38. Die geschätzten Kosten pro Aufgabe waren bei den gerouteten Konfigurationen höher, so Perplexitys Bericht zum Benchmark.

KonfigurationGelöste Aufgaben von 63Geschätzte Kosten pro Aufgabe
Jede der beiden gerouteten Claude-Code-Konfigurationen41Höher als bei Claude Fable 5.2 allein
Claude Fable 5.2 allein38Niedriger als bei den gerouteten Konfigurationen

Für Entwickler zeigt dieser Vergleich einen konkreten Zielkonflikt: In diesem Test gingen mehr gelöste Aufgaben mit höheren geschätzten Kosten pro Aufgabe einher. Ob sich das für eine Anwendung lohnt, hängt davon ab, wie viel ihr die zusätzlichen Aufgaben wert sind.

Perplexity berichtete außerdem über einen Zuverlässigkeitsvergleich für den Zeitraum vom 4. Oktober bis zum 2. November 2026. Anfragen über Orchestrator seien häufiger erfolgreich gewesen als Anfragen an jeden einzelnen verglichenen Anbieter; während Anbieter-Störungen hätten die Erfolgswerte zudem weniger tägliche Schwankungen gezeigt. Perplexity schloss ungültige Anfragen und Verstöße gegen kundenseitige Ratenlimits aus seiner Fehlerzählung aus. Die Ankündigung des Unternehmens beschreibt diesen Vergleich.