Passerelle LLM — une API pour chaque modèle : routage, basculement, facturation et observabilité (2026)

Une passerelle LLM est un endpoint API unique placé devant plusieurs fournisseurs de grands modèles de langage. Au lieu d’intégrer séparément Anthropic, Google et OpenAI — trois SDK, trois clés, trois factures — votre application envoie une seule structure de requête vers une seule URL de base avec une seule clé ; la passerelle l’achemine, réessaie en cas d’échec, mesure l’utilisation et applique les limites de dépenses. Elle constitue le plan de contrôle entre votre produit et les modèles.

Ce que fait une passerelle LLM

Une passerelle LLM de production assume six responsabilités. La première rend les cinq autres possibles : une surface API unique et stable.

Un endpoint, tous les fournisseurs

La passerelle transforme l’ajout d’un fournisseur en modification d’une seule chaîne. Le même client peut atteindre Claude et GPT ; vous choisissez la route en définissant le champ model :

from openai import OpenAI

# One LLM gateway endpoint + one key fronts every provider.
gateway = OpenAI(
    api_key="sk-kn-...",
    base_url="https://api.kunavo.com/v1",  # the LLM gateway
)

# Route by changing a string — no per-provider SDK, key or client.
def ask(model: str, prompt: str) -> str:
    r = gateway.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
    )
    return r.choices[0].message.content

print(ask("claude-sonnet-5", "Draft a release note."))   # Anthropic
print(ask("claude-haiku-4-5", "Classify this ticket."))    # Anthropic, cheap tier
print(ask("gpt-5-6-terra", "Summarize the thread."))             # OpenAI

Passerelle LLM vs passerelle API

Une passerelle API traditionnelle — Kong, AWS API Gateway, NGINX — achemine le HTTP générique et gère l’authentification, les quotas et la limitation de débit. Une passerelle LLM est conçue pour le trafic de modèles : elle comprend les tokens et le streaming, met en cache les prompts, route les modèles, mesure les dépenses par clé et, pour les passerelles d’inférence, facture l’utilisation. Elles peuvent être combinées : certaines équipes placent une passerelle LLM derrière leur passerelle API existante. Pour une explication conceptuelle approfondie, consultez qu’est-ce qu’une passerelle AI ?, et Kunavo vs Kong AI Gateway pour le cas de la gestion d’API d’entreprise.

Deux types de passerelles LLM

La catégorie se divise selon l’entité qui détient la relation avec le fournisseur :

Les passerelles BYO-key ajoutent contrôle et observabilité à vos comptes Anthropic, Google et OpenAI existants — vous conservez ces clés. Les passerelles d’inférence s’interposent directement devant les fournisseurs : vous approvisionnez un seul solde, sans jamais toucher à une console fournisseur. Consultez Kunavo vs Portkey, Helicone, LiteLLM et OpenRouter pour les comparaisons complètes.

Sécurité et conformité

Une passerelle est également l’endroit naturel pour appliquer la sécurité : les clés ne quittent jamais votre serveur, les plafonds de dépenses et limites de débit par clé réduisent le rayon d’impact, et la journalisation centralisée fournit une seule piste d’audit. Pour les déploiements réglementés, sachez ce que Kunavo ne propose pas : ni DPA, ni Zero Data Retention, ni résidence des données dans l’UE. Les requêtes sont traitées aux États-Unis puis transmises aux fournisseurs de modèles en amont, dont les propres politiques de conservation s’appliquent ; si vous avez besoin d’un DPA, de ZDR ou d’une résidence des données dans l’UE, contractez directement avec Anthropic, OpenAI ou Google selon leurs conditions enterprise. Le guide régional se trouve dans le guide de conformité de l’IA.

Kunavo comme passerelle LLM

Kunavo est une passerelle LLM d’inférence. Elle est compatible avec le protocole OpenAI à l’adresse https://api.kunavo.com/v1, donc si votre code peut appeler l’API OpenAI, il peut appeler Kunavo en modifiant uniquement l’URL de base. Un seul jeton bearer sk-kn- permet d’atteindre Claude, GPT et le reste du catalogue — à des tarifs environ 30 % inférieurs aux tarifs catalogue des fournisseurs, avec paiement à l’usage à partir d’un approvisionnement de 10 $, dans un seul portefeuille facturé par Stripe. Au-delà du texte, elle prend également en charge la génération d’images, de vidéos et d’audio avec la même clé.

Commencez par le guide de démarrage rapide, consultez le guide de l’API compatible OpenAI pour comprendre comment le format du protocole vous permet de passer entre des modèles locaux (Ollama) et hébergés sans modifier le code, ainsi que le calculateur de coûts LLM pour estimer le coût d’une charge de travail — ou le reste des outils gratuits de calcul des coûts, qui évaluent les volets Claude et OpenAI selon leurs propres règles de mise en cache. Si vous basculez un client de codage entre plusieurs fournisseurs au lieu de vous engager auprès d’un seul, le guide de configuration de CC Switch couvre cette utilisation côté passerelle.

Questions fréquentes