Ogni classifica di questa ricerca è pubblicata da un'azienda che vende un gateway, e ognuna si colloca in cima o quasi: anche questa pagina, quindi considera l'ordine qui sotto per quello che è. La correzione più utile è che queste liste confrontano prodotti che non sono sostituibili tra loro. “Gateway LLM” indica almeno quattro cose diverse: gateway che rivendono l'accesso ai modelli e custodiscono per te le credenziali dei provider, piani di controllo ospitati che instradano tramite account che possiedi tu, proxy che distribuisci nella tua infrastruttura e proxy edge che aggiungono caching e limiti davanti alle tue chiavi. Una tabella delle funzionalità che li mescola ti indirizzerà verso il modello sbagliato. Scegli prima la categoria; all'interno di una categoria, la scelta è solitamente semplice.
Dichiarazione di parzialità: Kunavo è il nostro prodotto e compete esattamente in una delle quattro categorie seguenti. Per le altre tre non siamo un'opzione e la pagina lo dichiara nei casi pertinenti.
Le quattro categorie
| Categoria | Chi detiene l'account del provider | Sceglilo quando | Esempi |
|---|---|---|---|
| Gateway con accesso rivenduto | Il gateway | Vuoi un'unica fattura e nessun account dei provider | Kunavo, OpenRouter, AIMLAPI |
| Piano di controllo ospitato (BYO key) | Tu | Hai account e vuoi routing, governance e osservabilità | Portkey, TrueFoundry, Helicone, Braintrust, orq.ai |
| Proxy self-hosted | Tu | Il testo dei prompt non può lasciare la tua infrastruttura | LiteLLM, MLflow AI Gateway |
| Proxy edge | Tu | Vuoi solo caching, limiti di frequenza e analisi | Cloudflare AI Gateway |
La domanda discriminante è chi custodisce le credenziali del provider. Questo singolo fatto determina per cosa vieni fatturato, chi è responsabile quando una chiave viene divulgata, se puoi usare tariffe negoziate con i provider e quanta parte del sistema gestisci. Tutto il resto — policy di routing, caching, dashboard — esiste in ogni categoria e differenzia molto meno di quanto suggerisca il marketing.
1. Gateway con accesso rivenduto — nessun account dei provider
Il gateway custodisce le credenziali upstream e ti fattura l'utilizzo, quindi non c'è nulla a cui registrarsi presso Anthropic, Google o OpenAI. Questa è la categoria da scegliere quando il problema da risolvere riguarda approvvigionamento e configurazione, non il controllo: una chiave, un saldo, un SDK.
Kunavo — un unico URL di base compatibile con OpenAI e un'unica chiave sk-kn- per Claude e GPT, oltre a modelli per immagini, video e musica sullo stesso saldo, con la maggior parte del catalogo elencata a prezzi inferiori alle tariffe ufficiali dei provider. Non instrada le chiavi dei tuoi provider; se il BYO-key è un requisito, l'intera categoria è quella sbagliata. Prezzi · Avvio rapido
OpenRouter — l'opzione per ampiezza: centinaia di modelli di numerosi provider in un unico portafoglio, piani gratuiti e routing con le proprie chiavi, che manca nella maggior parte di questa categoria. Sceglilo al posto di Kunavo quando l'ampiezza del catalogo conta più del prezzo unitario. Kunavo vs OpenRouter · la classifica completa di OpenRouter
AIMLAPI — aggrega modelli testuali e multimediali con un'unica chiave, secondo lo stesso modello dei due precedenti. Kunavo vs AIMLAPI
2. Piani di controllo ospitati — mantieni tu gli account
Sei tu a custodire le credenziali dei provider; la piattaforma aggiunge routing, fallback, guardrail, governance della spesa e osservabilità, senza che tu debba eseguirla. Questa è la categoria per i team con contratti negoziati con i provider, perché tali tariffe valgono più di qualsiasi prezzo che un rivenditore possa pubblicare. Kunavo non è un'opzione qui: per progettazione custodiamo le credenziali upstream, cioè l'opposto di questo accordo.
Portkey è quello che abbiamo valutato (Kunavo vs Portkey); Helicone si colloca all'estremità dell'osservabilità nella stessa fascia (Kunavo vs Helicone). TrueFoundry, Braintrust e orq.ai occupano l'estremità enterprise — SLA, audit trail e strumenti di valutazione. Non abbiamo valutato questi tre, quindi sono inseriti nella categoria e collegati, ma non classificati, e ciascuno si colloca al primo posto in questa ricerca.
3. Proxy self-hosted — esegui tu il software
Un proxy open source distribuito nella tua infrastruttura e posto davanti alle tue chiavi dei provider. LiteLLM è la scelta predefinita e MLflow AI Gateway è l'alternativa più simile. Scegli questa categoria quando il testo dei prompt non può lasciare la tua infrastruttura: un vincolo che nessuna opzione ospitata nelle altre tre categorie può soddisfare, a qualsiasi prezzo.
Il costo è concreto e va dichiarato: un proxy self-hosted è un pacchetto nella tua build, quindi CI/CD e cluster rientrano nel suo raggio d'impatto. Non è un'ipotesi per questa categoria specifica: l'incidente alla catena di approvvigionamento di LiteLLM del marzo 2026 è l'esempio concreto, incluso ciò che LiteLLM ha modificato in seguito.
4. Proxy edge — solo caching e limiti
Cloudflare AI Gateway aggiunge caching delle risposte, limitazione della frequenza, retry e analisi davanti agli account dei provider che già possiedi, senza rivendere inferenza. Si combina con una qualsiasi delle altre tre categorie invece di sostituirne una: i team spesso lo eseguono davanti a un gateway con accesso rivenduto. Kunavo vs Cloudflare AI Gateway
Come scegliere in un solo passaggio
- Il testo dei prompt può lasciare la tua infrastruttura? No → categoria 3 e interrompi la lettura. Sì → continua.
- Hai tariffe negoziate con i provider o una spesa impegnata? Sì → categoria 2, quindi continui a utilizzarle. No → continua.
- Vuoi avere account dei provider? No → categoria 1. Sì → categoria 2.
- Ti servono immagini, video o musica sulla stessa chiave? Questo restringe il campo più rapidamente di qualsiasi altro criterio: verificalo prima di confrontare altro.
- Aggiungi la categoria 4 sopra quella che hai scelto se caching o limiti di frequenza edge sono un requisito reale; non è un'alternativa alle altre.
Cosa omettono tutte queste liste
Due aspetti, con grande regolarità. Il primo è cosa succede quando il provider upstream si interrompe: ogni gateway pubblicizza il failover, ma pochi spiegano cosa fanno realmente — la catena di routing, il timeout e se una richiesta fallita viene fatturata. Cosa dovrebbe gestire per te un gateway è l'insieme di funzionalità che vale la pena esaminare, e la risposta dovrebbe essere specifica.
Il secondo è il costo della migrazione. Ogni prodotto delle categorie 1, 2 e 4 comunica tramite il protocollo wire di OpenAI, quindi cambiare significa sostituire base_url e la chiave: il lock-in è ridotto e la decisione è molto meno importante di quanto lasci intendere una tabella comparativa con nove elementi. La guida all'API compatibile con OpenAI contiene i dettagli a livello di protocollo.
Domande frequenti
Qual è il miglior gateway LLM?
Non esiste un unico prodotto migliore, perché “gateway LLM” indica quattro prodotti che non sono sostituibili tra loro. Se non vuoi affatto account dei provider, la categoria è quella dei gateway con accesso rivenduto, come Kunavo o OpenRouter. Se hai già account dei provider e vuoi routing e governance su di essi, serve un piano di controllo ospitato come Portkey o TrueFoundry. Se vuoi eseguire il software autonomamente, LiteLLM o MLflow AI Gateway. Se vuoi solo caching, limiti di frequenza e analisi davanti alle tue chiavi, Cloudflare AI Gateway. Scegli prima la categoria, poi confronta le tabelle delle funzionalità.
Cos’è un gateway LLM?
Un gateway LLM è un endpoint unico che si colloca tra la tua applicazione e uno o più provider di modelli, così il tuo codice si rivolge a un'unica API e a un'unica chiave invece di averne una per provider. Oltre a questa definizione condivisa, i prodotti divergono nettamente: alcuni rivendono l'accesso ai modelli e custodiscono per te le credenziali dei provider, altri instradano le richieste tramite account dei provider che possiedi tu, altri ancora sono librerie che distribuisci nella tua infrastruttura.
Qual è la differenza tra un gateway LLM e un router LLM?
Nella pratica i termini vengono usati come sinonimi e la maggior parte dei prodotti commercializzati come router sono gateway con funzionalità di routing. Quando si traccia una distinzione, “router” sottolinea la scelta tra modelli o provider per ogni richiesta — in base a costo, latenza o disponibilità — mentre “gateway” sottolinea il ruolo di punto di ingresso unico che gestisce anche autenticazione, limiti di spesa, logging e failover. Le decisioni di acquisto raramente dipendono dall'etichetta.
Ho bisogno di un gateway LLM se uso un solo provider?
Di solito no per il routing, che è la funzionalità che giustifica la maggior parte dei gateway. Un solo provider e una sola chiave significano che non c'è nulla tra cui instradare. I motivi che restano validi con un singolo provider sono i limiti di spesa, il logging delle richieste, la distribuzione delle chiavi a un team e il failover verso un secondo provider il giorno in cui il primo subisce un'interruzione. Quest'ultimo, però, è un motivo per avere più di un provider, riportando così il routing in gioco.
Un gateway LLM open source è migliore di uno ospitato?
Rispondono a vincoli diversi, invece di potersi classificare l'uno rispetto all'altro. Open source e self-hosted significano che il testo dei prompt non lascia la tua infrastruttura e che puoi leggere e modificare il codice, al costo di eseguire e aggiornare un servizio: un proxy self-hosted è un pacchetto nella tua build, quindi CI/CD e cluster rientrano nel suo raggio d'impatto. Un gateway ospitato elimina questa superficie operativa, ma aggiunge un'esposizione diversa: la tua chiave e il testo dei prompt transitano da una terza parte. I dati regolamentati spostano solitamente la scelta verso il self-hosting.
Qual è il gateway LLM più economico?
La soluzione più economica dipende da quale metà della fattura stai considerando. Gli strumenti BYO-key (LiteLLM, Portkey, Helicone, Cloudflare) aggiungono poco o nulla al costo di inferenza, perché continui a pagare le tariffe del tuo provider: il gateway addebita il piano di controllo, non i token. I gateway con accesso rivenduto stabiliscono i propri prezzi unitari: Kunavo elenca la maggior parte dei modelli a prezzi inferiori alle tariffe ufficiali dei provider — Claude Sonnet 4.6 a $2,10 / $10,50 per 1M di token rispetto a $3,00 / $15,00 di Anthropic. Se hai contratti negoziati con i provider, il BYO-key quasi sempre conviene; se oggi paghi i prezzi di listino pubblici, un rivenditore sotto listino può costare meno del tuo account.
Quali gateway LLM supportano modelli per immagini, video e audio?
La copertura varia da un fornitore all'altro e cambia spesso, quindi verifica i modelli specifici che ti servono nei singoli cataloghi invece di fidarti di un'etichetta di categoria. Kunavo offre modelli per immagini, video e musica sulla stessa chiave e sullo stesso saldo della chat, mentre la documentazione di OpenRouter descrive endpoint per immagini, video e parlato oltre alla chat. Se il multimodale con una sola chiave è un requisito, verificarlo per primo restringe il campo più rapidamente di qualsiasi altro criterio.