OpenRouter convient aux équipes qui veulent router leurs requêtes entre plusieurs fournisseurs depuis une API unique; Amazon Bedrock s’adresse à celles qui bâtissent leur application autour de l’inférence et des services gérés d’AWS. Le bon choix dépend surtout du degré de contrôle voulu sur le routage, la récupération de données et l’infrastructure.

OpenRouter est une passerelle vers les points de terminaison de fournisseurs de modèles. Son API donne accès à des centaines de modèles et propose une compatibilité avec le SDK d’OpenAI. Amazon Bedrock est une plateforme AWS d’inférence de modèles de fondation, avec des services associés comme l’évaluation, les bases de connaissances et les agents.

CritèreOpenRouterAmazon Bedrock
RôlePasserelle API vers des modèles de plusieurs fournisseursInférence de modèles et services intégrés à AWS
RoutageChoix et ordre des fournisseurs, critères de tri et règles de repliIntelligent Prompt Routing et inférence interrégionale
Accès aux modèlesSoumis à la disponibilité et aux conditions des fournisseursActivé par défaut; les nouveaux utilisateurs des modèles Anthropic peuvent devoir détailler leur cas d’usage
Récupération de donnéesRoutage des requêtes vers des modèlesBases de connaissances gérées ou configurées par le client

Dans cet article

Les préférences de routage d’OpenRouter ne garantissent pas un seuil

Le routage par défaut d’OpenRouter tient compte du prix observé, du débit, du délai avant le premier jeton, des limites de requêtes, de la fiabilité et de la qualité des appels d’outils. L’équipe peut aussi définir l’ordre des fournisseurs, des solutions de repli et des critères de tri comme le prix, le débit ou la latence.

Les préférences de latence et de débit s’appuient sur des percentiles calculés sur une fenêtre glissante de cinq minutes. Elles privilégient certains points de terminaison, mais ne les excluent pas nécessairement lors d’un repli. Une préférence de latence ne constitue donc pas une garantie de performance. En revanche, le paramètre max_price peut empêcher une requête de partir si aucun fournisseur admissible ne respecte le plafond fixé.

Pour essayer les modèles gratuits, les limites publiées sont de 50 requêtes par jour et 20 par minute. Après l’achat d’au moins 10 $ US de crédits, le plafond quotidien des modèles gratuits passe à 1 000 requêtes.

Dans Bedrock, les fonctions de récupération varient selon la base de connaissances

Les bases de connaissances gérées par AWS prennent en charge l’ingestion, l’indexation, le stockage et la récupération des documents. Avec une base de connaissances gérée par le client, celui-ci configure et exploite son propre pipeline de génération augmentée par récupération, ou RAG, ainsi que son magasin vectoriel.

Le filtrage des autorisations au niveau du document est proposé pour les bases gérées, sauf avec le connecteur Web Crawler. Une équipe qui a besoin de ce filtrage doit donc choisir le type de base et le connecteur en conséquence.

AWS indique que l’accès aux modèles de fondation est activé par défaut. Les personnes qui utilisent un modèle Anthropic pour la première fois peuvent devoir fournir des détails sur leur cas d’usage. La disponibilité des modèles et des fonctions dépend aussi de la région AWS.

La localisation des données implique des choix de configuration

Le routage dans la région de l’Union européenne ou des États-Unis est proposé par OpenRouter avec les offres Business et Enterprise. Ces routes n’utilisent que des fournisseurs situés dans la région choisie; si aucun fournisseur admissible n’est disponible, la requête échoue.

AWS décrit la sécurité comme une responsabilité partagée. AWS protège l’infrastructure du cloud, tandis que le client reste responsable de la sécurité dans le cloud, notamment de la configuration, de la sensibilité des données et des exigences applicables à son activité.

Les frais OpenRouter et le coût d’inférence se calculent séparément

OpenRouter indique que l’inférence est facturée aux tarifs catalogue des fournisseurs. Les frais de la plateforme s’appliquent à l’achat des crédits, selon la formule choisie.

OpérationFrais indiquésConditions
Achat de crédits Standard5,5 %Minimum de 0,80 $ US pour les achats hors cryptomonnaie
Achat de crédits Business8 %Frais appliqués à l’achat de crédits
Achat de crédits en cryptomonnaie5 %Frais appliqués à l’achat
BYOK avec Standard ou Business0 % jusqu’à 25 000 $ US par mois d’inférence au tarif catalogue, puis 5 % sur le dépassementBYOK signifie utiliser sa propre clé API; conditions Enterprise personnalisées

Pour visualiser le calcul du taux Standard, une base hypothétique de 100 € entraîne 5,50 € de frais, soit 105,50 € avant taxes applicables. OpenRouter publie ses tarifs en dollars américains; cet exemple en euros illustre seulement le calcul du pourcentage.

Un total comparable avec Bedrock suppose de choisir un modèle, une région AWS, une répartition des jetons d’entrée et de sortie ainsi qu’un mode d’inférence. Sans ces paramètres, les frais d’achat de crédits d’OpenRouter ne suffisent pas à désigner la solution la moins coûteuse.

Quelle plateforme convient à votre application ?

Choisissez OpenRouter si votre application doit pouvoir passer d’un fournisseur à l’autre depuis une seule API, ou si vous voulez définir des règles de tri, de repli et de prix maximal. Pour évaluer un changement de passerelle dans une petite application SaaS, suivez notamment le coût par requête, le temps de réponse, la disponibilité des modèles, les limites de requêtes et l’effort nécessaire pour changer de fournisseur.

Choisissez Bedrock si votre architecture s’appuie sur les services AWS et si vous souhaitez confier à AWS l’ingestion, l’indexation, le stockage et la récupération des documents au moyen d’une base de connaissances gérée. Si vous préférez administrer vous-même le pipeline RAG et le magasin vectoriel, Bedrock propose aussi une configuration gérée par le client.