Un gateway AI è un singolo endpoint API che si trova davanti a molti provider di modelli. Invece di integrare separatamente Anthropic, Google e OpenAI — tre SDK, tre chiavi, tre fatture — la tua applicazione invia un unico formato di richiesta a un unico URL di base con un'unica chiave, e il gateway la indirizza al provider corretto. È chiamato anche gateway LLM quando l'attenzione è sui modelli testuali.
Cosa fa un gateway AI
Un gateway è il piano di controllo tra la tua applicazione e i provider di modelli. Le responsabilità principali:
| Funzione | Significato |
|---|---|
| API unificata | Un unico formato di richiesta/risposta (di solito compatibile con OpenAI) per ogni modello, così integri una volta sola. |
| Routing tra provider | Scegli il modello/provider per ogni richiesta; cambia modello modificando una stringa, senza riscrivere il codice client. |
| Failover | Riprova su un upstream sano quando un provider restituisce un errore o applica un limite di frequenza: resilienza che la tua applicazione non deve codificare. |
| Caching | Riutilizza prompt identici o stabili (ad esempio il prompt caching di Anthropic) per ridurre il costo degli input ripetuti. |
| Controllo della spesa e della frequenza | Budget e limiti di frequenza per chiave, così una chiave trapelata o un ciclo incontrollato non può prosciugare l'account. |
| Osservabilità e fatturazione | Registrazione per chiamata, utilizzo di token/costi e, per i gateway di inferenza, un unico portafoglio e un'unica fattura. |
Quando usarne uno
Ricorri a un gateway AI non appena si verifica una di queste condizioni:
- Chiami più di un modello o provider. Un gateway trasforma «aggiungere un provider» in una modifica di configurazione.
- Vuoi il failover. I provider possono degradarsi; un gateway aggira il problema senza un nuovo deployment.
- Hai bisogno di controllo e visibilità sui costi. I limiti di spesa per chiave e i log di utilizzo sono migliori che leggere tre dashboard di provider.
- Vuoi un'unica fattura. Un unico portafoglio per testo, immagini, video e audio invece di un account per provider.
Per un prototipo usa-e-getta con un solo modello puoi chiamare direttamente un provider, ma iniziare dietro un gateway mantiene ogni modifica successiva a una sola riga.
Due tipi di gateway AI
Il termine comprende due architetture che risolvono aspetti diversi del problema:
| Tipo | Porti tu | Esempi | Ideale per |
|---|---|---|---|
| Gateway BYO-key | Le tue chiavi provider e la tua fatturazione | Portkey, Helicone, LiteLLM | Routing, guardrail e osservabilità sugli account che già possiedi |
| Gateway di inferenza | Nulla: il gateway rivende l'accesso | Kunavo, OpenRouter | Un unico portafoglio e un'unica chiave tra i provider, spesso a un prezzo inferiore al listino |
I gateway BYO-key aggiungono un livello di controllo e osservabilità sopra i tuoi account Anthropic, Google e OpenAI esistenti: continui a detenere le chiavi e a pagare ciascun provider. I gateway di inferenza si pongono davanti ai provider: ricarichi un unico saldo e non accedi mai alla console di un provider. Consulta Kunavo vs Portkey, Helicone e LiteLLM per il modello BYO-key, Kunavo vs Cloudflare AI Gateway per il caso del proxy edge, Kunavo vs Kong AI Gateway per il caso della gestione API aziendale e Kunavo vs OpenRouter per il confronto tra router.
Kunavo come gateway AI
Kunavo è un gateway AI di inferenza. È compatibile a livello wire con OpenAI su https://api.kunavo.com/v1, quindi, se il tuo codice può chiamare l'API OpenAI, può chiamare Kunavo modificando soltanto l'URL di base. Un sk-kn- bearer token consente di accedere a Claude, GPT e al resto del catalogo: con prezzi indicativamente 30% inferiori alle tariffe di listino dei provider, pagamento a consumo a partire da una ricarica di $10 e un unico portafoglio fatturato da Stripe.
from openai import OpenAI
# One gateway endpoint + one key reaches every provider.
client = OpenAI(
api_key="sk-kn-...",
base_url="https://api.kunavo.com/v1", # the AI gateway
)
# Same request shape, different providers — just change the model.
for model in ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]:
r = client.chat.completions.create(
model=model,
messages=[{"role": "user", "content": "One word: ready?"}],
)
print(model, "→", r.choices[0].message.content)La stessa chiave consente anche di usare la Messages API nativa di Anthropic e la generazione di immagini, video e audio. Consulta la guida all'API compatibile con OpenAI per capire come il formato wire permetta di passare tra modelli locali (Ollama) e ospitati senza modifiche al codice, e il quickstart per la prima chiamata.
Domande frequenti
Che cos'è un gateway AI?
Un gateway AI (chiamato anche gateway LLM) è un singolo endpoint API che si trova davanti a molti provider di modelli. La tua applicazione invia un unico formato di richiesta a un unico URL di base con un'unica chiave, mentre il gateway gestisce routing tra provider, autenticazione, failover, caching, limitazione della frequenza, controllo della spesa e registrazione dell'utilizzo. In questo modo integri una volta sola invece di collegare separatamente Anthropic, Google e OpenAI.
Qual è la differenza tra un gateway AI e un gateway LLM?
Sono la stessa cosa. «Gateway LLM» enfatizza i modelli testuali/chat; «gateway AI» è il termine più ampio e comprende anche modelli di immagini, video e audio dietro lo stesso endpoint. Kunavo è un gateway AI: un'unica API compatibile con OpenAI per Claude e GPT testuali, oltre alla generazione di immagini, video e audio.
Ho bisogno di un gateway AI?
Usane uno non appena chiami più di un modello o provider, vuoi il failover quando un provider peggiora, hai bisogno di limiti di spesa per chiave e visibilità sull'utilizzo, oppure vuoi un unico saldo prepagato invece di un account per provider. Per un prototipo con un solo modello puoi chiamare direttamente il provider, ma un gateway mantiene la modifica successiva a una sola riga.
Qual è la differenza tra un gateway AI e un router come OpenRouter?
Un router è un tipo di gateway AI focalizzato sulla scelta di un provider per una richiesta testuale. Un gateway AI completo aggiunge fatturazione, endpoint multimodali, caching e controlli della spesa. Kunavo è un gateway di inferenza: rivende l'accesso ai modelli tramite un unico portafoglio prepagato, a un prezzo inferiore al listino per alcuni modelli, e include immagini, video e audio oltre alla chat.