Perplexity podaje: Photon skrócił p99 odzyskiwania i rankingu z ok. 800 do ok. 65 ms

24 września 2026 r. Perplexity opisało Photon, wewnętrzny silnik odzyskiwania i rankingu stron w swojej wyszukiwarce. Firma podała, że p99 opóźnienia tych etapów spadło z ok. 800 ms w poprzednim systemie do ok. 65 ms w Photonie. Wynik dotyczy pracy samego silnika, a nie całego procesu wyszukiwania.

Photon działa wewnątrz wyszukiwarki Perplexity

Photon wybiera strony internetowe, które trafiają do dalszych etapów wyszukiwania Perplexity. Nie jest osobną wyszukiwarką dla użytkowników. Perplexity opisało go jako następcę dostosowanego silnika open source, używanego wcześniej w tej części infrastruktury.

Wyszukiwanie i ranking to dwa powiązane zadania: system najpierw odnajduje kandydatów, a potem ustala ich kolejność. Photon obsługuje te etapy w produkcyjnej wyszukiwarce Perplexity. Firma opisuje go również jako kolejny element przejścia swojej infrastruktury wyszukiwania na rozwiązania oparte na Rust.

Jak zapytanie przechodzi przez Photon

Żądanie trafia najpierw do modułu równoważącego obciążenie, a następnie do brokera transakcyjnego. Broker wybiera grupę shardów, czyli fragmentów indeksu. Shardy wyszukują kandydatów i szeregują ich, po czym broker łączy wyniki i pobiera kluczowe pola wybranych dokumentów. Połączone wyniki wracają do wyszukiwarki Perplexity.

Budowa indeksu i obsługa zapytań

Photon oddziela przygotowywanie indeksu od obsługi bieżących zapytań. Warstwa Pillar przygotowuje dane źródłowe w tabelach YTsaurus, a indeksatory budują struktury shardów. Kontroler wdraża kolejne wersje indeksu w grupach obsługujących zapytania.

Perplexity podaje, że pełny indeks sieci można zbudować w czasie liczonym w jednocyfrowej liczbie godzin. W porównaniu z poprzednim systemem Photon ma też wymagać ok. 20% mniej równoważnych maszyn obsługujących i przechowywać ok. 2,5 raza więcej danych na dokument.

Co mierzy zgłoszone p99

P99 to 99. percentyl opóźnienia: wartość opisująca wolniejszy koniec rozkładu pomiarów. W porównaniu przedstawionym przez Perplexity poprzedni system osiągał w produkcji ok. 800 ms dla odzyskiwania i rankingu, a etapy Photona — ok. 65 ms. Pomiar dotyczący Photona obejmuje jego wewnętrzne etapy; nie obejmuje dalszych etapów wyższej warstwy wyszukiwania.

Fast Search: benchmarki i dostęp do API

Fast Search to tryb Perplexity Search API oparty na Photonie i dostrojony do pracy agentów. Perplexity podaje dla pojedynczego wywołania API opóźnienie 160 ms przy p50 i 230 ms przy p95. To inny pomiar niż produkcyjne p99 wewnętrznych etapów Photona.

W sześciu benchmarkach obejmujących 3554 wybrane zadania Fast Search uzyskał wynik 64,3%, a ustawienie domyślne — 64,0%. Perplexity podało też szacowany łączny koszt modelu i wyszukiwania dla tego zestawu. W odrębnych wewnętrznych testach długiego ogona, czyli rzadziej spotykanych zapytań, Fast Search uzyskał niższy wynik DCG i niższą dostępność odpowiedzi niż ustawienie domyślne.

Dokumentacja Perplexity podaje stawkę 1 USD za 1000 pomyślnie zrealizowanych żądań POST /search. Tryb wybiera się parametrem search_type: "fast", a max_results może przyjąć wartość od 1 do 20.