OpenRouter lepiej pasuje do aplikacji, która ma kierować zapytania między modelami różnych dostawców przez jedną bramę API. Amazon Bedrock będzie naturalniejszym wyborem, gdy projekt opiera się na inferencji w AWS i jego usługach zarządzanych, takich jak Knowledge Bases. Decyzję warto oprzeć na potrzebie kontroli routingu, obsługi danych i wymaganej infrastruktury, a nie na założeniu, że jedna platforma zawsze kosztuje mniej.
W tym artykule
- Najpierw wybierz warstwę, której potrzebuje aplikacja
- Preferencje routingu nie gwarantują wydajności
- W Bedrock sposób zarządzania RAG zależy od typu bazy wiedzy
- Region i dostęp do modeli wpływają na wdrożenie
- Opłaty OpenRouter i koszty Bedrock liczy się inaczej
- Która platforma pasuje do Twojego projektu?
Najpierw wybierz warstwę, której potrzebuje aplikacja
OpenRouter jest bramą API do modeli wielu dostawców. Amazon Bedrock to zarządzana platforma AWS do inferencji modeli fundacyjnych i korzystania z powiązanych usług. Różnica wpływa na to, które elementy aplikacji zespół może skonfigurować w samej platformie, a które musi uwzględnić w architekturze.
| Kryterium | OpenRouter | Amazon Bedrock |
| Rola platformy | Jedna brama API do modeli wielu dostawców, z integracją zgodną z OpenAI SDK. | Zarządzana platforma AWS do inferencji modeli fundacyjnych i korzystania z usług AWS. |
| Routing | Kolejność dostawców, fallback oraz sortowanie według ceny, przepustowości lub opóźnienia. | Intelligent Prompt Routing i inferencja między regionami AWS. |
| Wyszukiwanie w bazach wiedzy | Brama API do inferencji i routingu modeli. | Managed Knowledge Bases zarządzają wczytywaniem, indeksowaniem, przechowywaniem i wyszukiwaniem; Customer-managed Knowledge Bases pozostawiają obsługę pipeline’u zespołowi. |
| Kontrola regionu | Routing w regionie UE lub USA jest dostępny w planach Business i Enterprise i korzysta z dostawców działających w wybranym regionie. | Dostępność modeli i funkcji zależy od regionu AWS; bezpieczeństwo w chmurze obejmuje też odpowiedzialność klienta za konfigurację. |
Preferencje routingu nie gwarantują wydajności
Domyślny router OpenRouter bierze pod uwagę obserwowaną cenę, przepustowość, czas do pierwszego tokenu, limity zapytań, niezawodność i jakość wywołań narzędzi. Można też ustawić kolejność dostawców, fallback albo sortowanie według ceny, przepustowości lub opóźnienia.
Ustawienia p50, p75, p90 i p99 dla opóźnienia lub przepustowości są preferencjami. OpenRouter oblicza te wartości w kroczącym oknie pięciu minut, a wybrany próg nie wyklucza automatycznie wolniejszych endpointów z użycia przy fallbacku. To pomaga określić, jakie endpointy router ma preferować, ale nie gwarantuje osiągnięcia danego czasu odpowiedzi ani przepustowości.
Jeśli aplikacja musi trzymać się konkretnego limitu cenowego, można ustawić max_price. Gdy żaden dostępny endpoint nie spełnia tego limitu, zapytanie może się nie wykonać. To odrębna kontrola od preferencji wydajnościowych.
W Bedrock sposób zarządzania RAG zależy od typu bazy wiedzy
Generowanie wspomagane wyszukiwaniem, czyli RAG, łączy odpowiedź modelu z informacjami pobranymi z firmowych dokumentów lub innych źródeł. W Amazon Bedrock Managed Knowledge Base AWS zarządza wczytywaniem danych, indeksowaniem, przechowywaniem i wyszukiwaniem. W wariancie Customer-managed zespół sam konfiguruje i obsługuje pipeline RAG oraz magazyn wektorowy.
Filtrowanie uprawnień do dokumentów, określane jako ACL, jest dostępne w Managed Knowledge Bases, z wyjątkiem konektora Web Crawler. Jeśli aplikacja ma ograniczać wyniki wyszukiwania według uprawnień użytkownika, ten wybór konfiguracji ma znaczenie.
Bedrock obejmuje także przepływy pracy z agentami. Więcej o tej części usługi opisuje tekst o Amazon Bedrock Managed Agents.
Region i dostęp do modeli wpływają na wdrożenie
OpenRouter oferuje routing w regionie UE i USA w planach Business oraz Enterprise. Żądanie z takim ustawieniem korzysta z dostawców w wybranym regionie; jeśli nie ma pasującego endpointu, może zakończyć się niepowodzeniem zamiast trafić poza ten region.
AWS stosuje model współdzielonej odpowiedzialności za bezpieczeństwo. AWS odpowiada za bezpieczeństwo infrastruktury chmurowej, a klient za bezpieczeństwo w chmurze, w tym za konfigurację, wrażliwość danych i stosowanie właściwych wymagań. Dostępność modeli i funkcji Amazon Bedrock zależy od regionu AWS.
Dostęp do modeli fundacyjnych w Bedrock jest domyślnie włączony. Osoby korzystające po raz pierwszy z modeli Anthropic mogą jednak musieć przesłać informacje o planowanym zastosowaniu. Nie oznacza to, że każdy model wymaga osobnej ręcznej zgody.
Opłaty OpenRouter i koszty Bedrock liczy się inaczej
OpenRouter nalicza opłatę przy zakupie kredytów, a nie odrębnie przy każdym zapytaniu. Tokeny są rozliczane według opublikowanej ceny danego modelu i dostawcy. Opłata za zakup kredytów wynosi 5,5% w planie Standard i 8% w Business. Ceny nie obejmują należnych podatków.
Przy BYOK, czyli korzystaniu z własnego klucza API dostawcy, Standard i Business obejmują 25 000 USD miesięcznej inferencji po cenach katalogowych bez opłaty OpenRouter. Od nadwyżki naliczane jest 5%; warunki Enterprise ustalane są indywidualnie.
Dla samego rachunku: jeśli hipotetyczną podstawą zakupu kredytów Standard byłoby 1 000 zł, opłata 5,5% wyniosłaby 55 zł, a łączna kwota 1 055 zł przed ewentualnymi podatkami. To przykład arytmetyczny oparty na opublikowanej stawce, nie lokalna oferta cenowa.
Koszt inferencji w Bedrock trzeba obliczyć dla konkretnego modelu, regionu AWS, liczby tokenów wejściowych i wyjściowych oraz trybu inferencji. Żeby porównać go z OpenRouter, należy zestawić tę samą konfigurację i taki sam wolumen pracy. Sama opłata OpenRouter nie rozstrzyga, która platforma będzie tańsza dla danej aplikacji.
Która platforma pasuje do Twojego projektu?
Wybierz OpenRouter, jeśli aplikacja ma korzystać z modeli różnych dostawców przez jedno API, a zespół chce ustawiać routing, fallback i preferencje cenowe na poziomie zapytań. Przed migracją warto policzyć koszt pojedynczego żądania i sprawdzić opóźnienia, dostępność modeli, limity dostawców oraz nakład potrzebny na zmianę integracji.
Wybierz Amazon Bedrock, jeśli aplikacja ma korzystać z usług AWS, w tym z zarządzanego wyszukiwania w Managed Knowledge Bases, albo gdy potrzebna jest architektura oparta na regionach AWS. Zespół powinien uwzględnić własną odpowiedzialność za konfigurację oraz wybrać między zarządzanym i samodzielnie obsługiwanym pipeline’em RAG.
Bezpłatne modele OpenRouter mają limit 50 zapytań dziennie i 20 na minutę; po zakupie kredytów za co najmniej 10 USD limit dzienny wzrasta do 1 000 zapytań. Przy agencie wykonującym wiele wywołań warto zatem oszacować liczbę zapytań przypadających na jedno zadanie.
