Perplexity kondigde Orchestrator op 17 november 2026 aan als één API voor open-weight en propriëtaire modellen, met gebundelde facturering. Bij providerfailover probeert de API na een geschikte storing een andere implementatie van hetzelfde gekozen model. De aparte, optionele preview kan per aanvraag een ander model kiezen (aankondiging van Perplexity; documentatie over routering en betrouwbaarheid).

Een andere provider betekent bij failover niet automatisch een ander model; perplexity/auto kan de modelkeuze per aanvraag veranderen.

Wat verandert er bij de twee soorten routering?

Providerfailover en modelroutering nemen een ander besluit. Bij failover kiest Orchestrator een implementatie van het model dat al is geselecteerd. De keuze is gebaseerd op waargenomen foutpercentages, capaciteit en latentie. Na een geschikte fout kan de API een andere implementatie van datzelfde model proberen.

RouteringsfunctieWanneer valt de keuze?Wat kan veranderen?Reikwijdte
ProviderfailoverNa een geschikte fout bij een implementatieDe implementatie; het geselecteerde model blijft hetzelfdeAutomatische keuze op basis van foutpercentages, capaciteit en latentie
Modelroutering met perplexity/autoPer aanvraagHet gekozen model en daarmee mogelijk het toepasselijke tokentariefOptionele preview; aangepaste routering ondersteunt een standaardmodel en één tot vijf routes

De modelroutering is dus geen automatisch vervolg op een mislukte providerimplementatie. Met perplexity/auto kan de modelkeuze juist tussen aanvragen veranderen. Een aangepaste configuratie kan een standaardmodel en één tot vijf routes bevatten; de router gebruikt de gesprekscontext en routebeschrijvingen om een keuze te maken (routeringsdocumentatie van Perplexity).

Welke verzoekformaten en gespreksgeschiedenis zijn nodig?

Orchestrator accepteert OpenAI Chat Completions-, OpenAI Responses- en Anthropic Messages-verzoeken. Volgens de quickstartdocumentatie van Perplexity kunnen bestaande OpenAI- of Anthropic-SDK-integraties worden omgeleid door de API-sleutel en basis-URL te wijzigen.

De API is stateless: voor een vervolgaanvraag moet de client de benodigde gespreksgeschiedenis opnieuw meesturen. De kosten volgen het gepubliceerde tokentarief van het model dat op die aanvraag antwoordt. Bij modelroutering kan dus ook het toegepaste tarief per aanvraag verschillen (routeringsdocumentatie).

Wat rapporteerde Perplexity over betrouwbaarheid?

Voor de periode van 4 oktober tot en met 2 november 2026 meldde Perplexity dat aanvragen voor Claude en GPT via Orchestrator vaker slaagden dan aanvragen bij elke afzonderlijke provider die het bedrijf had gemeten. Ook rapporteerde het bedrijf minder dagelijkse variatie tijdens providerstoringen. Bij de berekening telde Perplexity clientfouten, zoals ongeldige verzoeken en overschrijding van klantlimieten, niet mee (de metingen van Perplexity).

Wat liet de Terminal-Bench-vergelijking zien?

In Perplexity’s aangepaste vergelijking met 63 taken van Terminal-Bench 4.1 loste elk van twee gerouteerde Claude Code-configuraties 41 taken op. Claude Fable 5.2 zonder routering kwam uit op 38 taken.

ConfiguratieOpgeloste taken van 63
Elk van twee gerouteerde Claude Code-configuraties41
Claude Fable 5.2 zonder routering38

Perplexity meldde dat de geschatte kosten per taak hoger waren voor de gerouteerde configuraties. De taakresultaten en kosten zijn afkomstig uit de vergelijking van het bedrijf (Terminal-Bench-resultaten van Perplexity).