Bu aramadaki her derleme, ağ geçidi satan bir şirket tarafından yayımlanmış ve her biri kendisini en üstte veya üst sıralarda gösteriyor — bu sayfa da buna dahil; dolayısıyla aşağıdaki sıralamayı neyse o olarak değerlendirin. Daha yararlı düzeltme, bu listelerin birbirinin alternatifi olmayan ürünleri karşılaştırmasıdır. "LLM ağ geçidi" en az dört farklı şeyi ifade eder: model erişimini yeniden satan ve sağlayıcı kimlik bilgilerini sizin için tutan ağ geçitleri, sizin tuttuğunuz hesaplar üzerinden yönlendiren barındırılan kontrol düzlemleri, kendi altyapınıza dağıttığınız proxy'ler ve anahtarlarınızın önüne önbellekleme ile limitler ekleyen uç proxy'ler. Bunları karıştıran bir özellik tablosu sizi yanlış ürün biçimine yönlendirir. Önce kategoriyi seçin; bir kategori içindeki seçim genellikle kolaydır.
Beyan edilen taraflılık: Kunavo bizim ürünümüzdür ve aşağıdaki dört kategoriden yalnızca biriyle rekabet eder. Diğer üçünde seçenek değiliz ve durum böyle olduğunda sayfa bunu belirtir.
Dört kategori
| Kategori | Sağlayıcı hesabını kim tutuyor? | Şu durumda seçin | Örnekler |
|---|---|---|---|
| Yeniden satılan erişim ağ geçidi | Ağ geçidi | Tek fatura istiyorsunuz ve hiç sağlayıcı hesabı istemiyorsunuz | Kunavo, OpenRouter, AIMLAPI |
| Barındırılan kontrol düzlemi (kendi anahtarınızı getirin) | Siz | Hesaplarınız var ve yönlendirme, yönetişim, gözlemlenebilirlik istiyorsunuz | Portkey, TrueFoundry, Helicone, Braintrust veyaq.ai |
| Kendi kendine barındırılan proxy | Siz | İstem metni altyapınızdan ayrılamaz | LiteLLM, MLflow AI Gateway |
| Uç proxy | Siz | Yalnızca önbellekleme, hız sınırları ve analitik istiyorsunuz | Cloudflare AI Gateway |
Ayırıcı soru şudur: sağlayıcı kimlik bilgilerini kim tutuyor. Bu tek gerçek, ne için faturalandırıldığınızı, bir anahtar sızdığında kimin sorumlu olduğunu, pazarlıkla belirlenmiş sağlayıcı ücretlerini kullanıp kullanamayacağınızı ve sistemin ne kadarını işlettiğinizi belirler. Diğer her şey — yönlendirme politikaları, önbellekleme, panolar — her kategoride vardır ve pazarlamanın ima ettiğinden çok daha az farklılaştırır.
1. Yeniden satılan erişim ağ geçitleri — sağlayıcı hesabı yok
Ağ geçidi üst düzey kimlik bilgilerini tutar ve kullanımı size faturalandırır; dolayısıyla Anthropic, Google veya OpenAI'da kayıt olmanız gerekmez. Çözmeye çalıştığınız sorun kontrol değil, tedarik ve kurulumsa bu kategori uygundur: tek anahtar, tek bakiye, tek SDK.
Kunavo — Claude ve GPT'nin yanı sıra görüntü, video ve müzik modelleri için aynı bakiyede tek OpenAI uyumlu temel URL ve tek sk-kn- anahtarı; kataloğun çoğu sağlayıcıların resmi ücretlerinin altında listelenir. Kendi sağlayıcı anahtarlarınızı yönlendirmez; kendi anahtarınızı getirmek bir gereklilikse bu kategorinin tamamı yanlıştır. Fiyatlandırma · Hızlı başlangıç
OpenRouter — kapsam seçeneği: geniş bir sağlayıcı kümesinden yüzlerce model tek cüzdanda, ücretsiz katmanlar ve bu kategorinin çoğunda bulunmayan kendi anahtarını getirme yönlendirmesi. Katalog kuyruğu birim fiyatından daha önemliyse Kunavo yerine bunu seçin. Kunavo ve OpenRouter karşılaştırması · tam OpenRouter derlemesi
AIMLAPI — metin ve medya modellerini tek anahtarda toplar; biçim olarak yukarıdaki iki seçenekle aynıdır. Kunavo ve AIMLAPI karşılaştırması
2. Barındırılan kontrol düzlemleri — hesaplar sizde kalır
Sağlayıcı kimlik bilgilerini siz tutarsınız; platform bunun üzerine yönlendirme, geri dönüşler, korumalar, harcama yönetişimi ve gözlemlenebilirlik ekler ve siz çalıştırmazsınız. Bu kategori, pazarlıkla belirlenmiş sağlayıcı sözleşmeleri olan ekipler içindir; çünkü bu ücretler, bir yeniden satıcının listeleyebileceği her şeyden daha değerlidir. Kunavo burada bir seçenek değildir — tasarım gereği üst düzey kimlik bilgilerini biz tutarız; bu da bunun tam tersidir.
Portkey, değerlendirdiğimiz seçenektir (Kunavo ve Portkey karşılaştırması); Helicone aynı bandın gözlemlenebilirlik tarafında yer alır (Kunavo ve Helicone karşılaştırması). TrueFoundry, Braintrust ve orq.ai kurumsal uçta yer alır — SLA'ler, denetim izleri, değerlendirme araçları. Bu üçünü değerlendirmedik; bu nedenle kategoriye yerleştirilip bağlantı verilir, sıralanmazlar ve her biri bu aramada kendisini birinci sıraya koyar.
3. Kendi kendine barındırılan proxy'ler — yazılımı siz çalıştırırsınız
Kendi sağlayıcı anahtarlarınızın önünde, kendi altyapınıza dağıtılmış açık kaynaklı bir proxy. LiteLLM varsayılan seçimdir ve MLflow AI Gateway en yakın benzer seçenektir. İstem metni altyapınızdan ayrılamıyorsa bu kategoriyi seçin — diğer üç kategorideki hiçbir barındırılan seçeneğin hiçbir fiyata karşılayamayacağı bir kısıt.
Maliyet dürüstçedir ve belirtilmeye değerdir: kendi kendine barındırılan proxy derlemenizin bir paketidir ve CI/CD'nizi ve kümenizi etki alanına sokar. Bu, özellikle bu kategori için varsayımsal değildir — Mart 2026 LiteLLM tedarik zinciri olayı, LiteLLM'in sonrasında neleri değiştirdiğini de içeren örnektir.
4. Uç proxy'ler — yalnızca önbellekleme ve limitler
Cloudflare AI Gateway, zaten sahip olduğunuz sağlayıcı hesaplarının önüne yanıt önbellekleme, hız sınırlama, yeniden denemeler ve analitik ekler ve hiçbir çıkarımı yeniden satmaz. Diğer üç kategoriden herhangi birinin yerine geçmekten çok onlarla birlikte çalışır — ekipler bunu sıklıkla yeniden satılan erişim ağ geçidinin önünde çalıştırır. Kunavo ve Cloudflare AI Gateway karşılaştırması
Tek seferde nasıl seçim yapılır
- İstem metni altyapınızdan ayrılabilir mi? Hayır → kategori 3 ve okumayı bırakın. Evet → devam edin.
- Pazarlıkla belirlenmiş sağlayıcı ücretleriniz veya taahhüt edilmiş harcamanız var mı? Evet → kategori 2; bunları kullanmaya devam edersiniz. Hayır → devam edin.
- Sağlayıcı hesaplarını hiç tutmak istiyor musunuz? Hayır → kategori 1. Evet → kategori 2.
- Aynı anahtarda görüntü, video veya müziğe ihtiyacınız var mı? Bu, alanı diğer tüm ölçütlerden daha hızlı daraltır — başka bir şeyi karşılaştırmadan önce kontrol edin.
- Önbellekleme veya uç hız sınırları gerçek bir gereklilikse seçtiğiniz her şeyin üzerine kategori 4'ü ekleyin; bu, diğerlerinin alternatifi değildir.
Bu listelerin tamamında eksik kalanlar
Sürekli olarak iki şey. Birincisi, üst düzey sağlayıcı başarısız olduğunda ne olduğu: her ağ geçidi yük devretme özelliğinin reklamını yapar, ancak çok azı gerçekte ne yaptığını yayımlar — yönlendirme zinciri, zaman aşımı, başarısız bir isteğin faturalandırılıp faturalandırılmadığı. Bir ağ geçidinin sizin için ele alması gerekenler sorgulanmaya değer özellik kümesidir ve yanıt spesifik olmalıdır.
İkincisi geçiş maliyetidir. 1, 2 ve 4. kategorilerdeki her ürün OpenAI kablo protokolünü kullanır; bu nedenle geçiş bir base_url ve anahtar değişimidir — yani bağımlılık düşüktür ve karar, dokuz maddelik karşılaştırma tablosunun ima ettiğinden çok daha az önemlidir. OpenAI uyumlu API kılavuzu kablo düzeyi ayrıntılarını içerir.
Sık sorulan sorular
En iyi LLM gateway hangisidir?
Tek bir en iyi seçenek yoktur; çünkü "LLM ağ geçidi" birbirinin alternatifi olmayan dört ürünü ifade eder. Hiç sağlayıcı hesabı istemiyorsanız Kunavo veya OpenRouter gibi yeniden satılan erişim ağ geçitleri bu kategoridedir. Zaten sağlayıcı hesaplarınız varsa ve bunlar üzerinde yönlendirme ile yönetişim istiyorsanız Portkey veya TrueFoundry gibi barındırılan kontrol düzlemleri uygundur. Yazılımı kendiniz çalıştırmak istiyorsanız LiteLLM veya MLflow AI Gateway. Kendi anahtarlarınızın önünde yalnızca önbellekleme, hız sınırları ve analitik istiyorsanız Cloudflare AI Gateway. Özellik tablolarını karşılaştırmadan önce kategoriyi seçin.
LLM gateway nedir?
LLM ağ geçidi, uygulamanız ile bir veya daha fazla model sağlayıcısı arasında duran tek bir uç noktadır; böylece kodunuz sağlayıcı başına birer tane yerine tek bir API ve tek bir anahtarı hedefler. Bu ortak tanımın ötesinde ürünler keskin biçimde ayrışır: bazıları model erişimini yeniden satar ve sağlayıcı kimlik bilgilerini sizin için tutar, bazıları istekleri sizin tuttuğunuz sağlayıcı hesapları üzerinden yönlendirir, bazıları da kendi altyapınıza dağıttığınız kütüphanelerdir.
LLM ağ geçidi ile LLM yönlendiricisi arasındaki fark nedir?
Pratikte bu terimler birbirinin yerine kullanılır ve yönlendirici olarak pazarlanan çoğu ürün, yönlendirme özelliklerine sahip ağ geçitleridir. Bir ayrım yapıldığında "yönlendirici", istek başına maliyet, gecikme veya kullanılabilirliğe göre modeller ya da sağlayıcılar arasından seçim yapmayı; "ağ geçidi" ise kimlik doğrulama, harcama limitleri, günlük kaydı ve yük devretmeyi de yöneten tek giriş noktası olmayı vurgular. Satın alma kararları nadiren etikete göre verilir.
Yalnızca bir sağlayıcı kullanıyorsam LLM ağ geçidine ihtiyacım var mı?
Yönlendirme açısından genellikle hayır; çoğu ağ geçidini haklı çıkaran özellik budur. Tek sağlayıcı ve tek anahtar olduğunda aralarında yönlendirme yapılacak bir şey yoktur. Tek sağlayıcıyla da geçerli olan nedenler harcama sınırları, istek günlükleri, bir ekip genelinde anahtar dağıtımı ve ilk sağlayıcı kesintiye uğradığı gün ikinci bir sağlayıcıya yük devretmedir — sonuncusu birden fazla sağlayıcıya sahip olma gerekçesidir ve bu da yönlendirmeyi yeniden gündeme getirir.
Açık kaynaklı bir LLM ağ geçidi, barındırılan bir ağ geçidinden daha mı iyidir?
Bunlar birbirlerine göre sıralanacak seçenekler olmaktan çok farklı kısıtları karşılar. Açık kaynak ve kendi kendine barındırma, istem metninin altyapınızdan hiç ayrılmaması ve kodu okuyup yamalayabilmeniz anlamına gelir; bunun bedeli ise bir hizmeti çalıştırmak ve yamalamaktır — kendi kendine barındırılan bir proxy derlemenizin parçasıdır ve CI/CD'nizi ve kümenizi etki alanına sokar. Barındırılan ağ geçidi bu operasyonel yüzeyi ortadan kaldırır, ancak başka bir maruziyet ekler: anahtarınız ve istem metniniz üçüncü bir taraftan geçer. Düzenlemeye tabi veriler genellikle seçimi kendi kendine barındırmaya yöneltir.
En ucuz LLM ağ geçidi hangisidir?
En ucuz düzenleme, faturanın hangi yarısını sorduğunuza bağlıdır. Kendi anahtarınızı getirdiğiniz araçlar (LiteLLM, Portkey, Helicone, Cloudflare) çıkarım maliyetine çok az şey ekler veya hiç eklemez; çünkü kendi sağlayıcı ücretlerinizi ödemeye devam edersiniz — ağ geçidi token'lar için değil, kontrol düzlemi için ücret alır. Erişimi yeniden satan ağ geçitleri kendi birim fiyatlarını belirler. Kunavo çoğu modeli sağlayıcıların resmi ücretlerinin altında listeler — Claude Sonnet 4.6 için Kunavo'nun fiyatı 1M token başına $2,10 / $10,50 iken Anthropic'in fiyatı $3,00 / $15,00 şeklindedir. Pazarlıkla belirlenmiş sağlayıcı sözleşmeleriniz varsa kendi anahtarınızı getirmek neredeyse her zaman kazanır; bugün herkese açık liste fiyatlarını ödüyorsanız liste fiyatının altında satış yapan bir yeniden satıcı kendi hesabınızdan daha ucuz olabilir.
Hangi LLM ağ geçitleri görüntü, video ve ses modellerini destekler?
Kapsam sağlayıcıya göre değişir ve sık sık güncellenir; bu nedenle bir kategori etiketine güvenmek yerine ihtiyacınız olan belirli modelleri her kataloğa göre kontrol edin. Kunavo, görüntü, video ve müzik modellerini sohbetle aynı anahtar ve bakiyede sunar; OpenRouter belgeleri de sohbetin yanında görüntü, video ve konuşma uç noktalarını açıklar. Tek anahtarda çok kipli kullanım bir gereklilikse, bunu önce kontrol etmek alanı diğer tüm ölçütlerden daha hızlı daraltır.