LiteLLM'nin uygun olduğu durumlar
Tamamen denetlediğiniz açık kaynaklı bir birleştirme katmanı istiyorsanız LiteLLM en güçlü seçenektir. Zaten sağlayıcı sözleşmeleriniz varsa, niş veya kendi sunucunuzda barındırılan modellere ulaşmanız gerekiyorsa, uyumluluk için ağ geçidini kendi VPC'nizde çalıştırmak istiyorsanız ve Python'a özgü bir SDK ile bütçeler ve sanal anahtarlar sunan, dilden bağımsız bir proxy'yi önemsiyorsanız LiteLLM tam olarak bunun için tasarlanmıştır. Çıkarım için belirli bir sağlayıcıya bağlı kalmazsınız — yalnızca kodunuzun yapılandırdığınız sağlayıcıları çağırma biçimini standartlaştırır.
Kunavo'nun üstün olduğu yer
Kunavo hem sağlayıcı hesaplarını hem de operasyon yükünü ortadan kaldırır. Dağıtılacak hiçbir şey yoktur: tek bir cüzdana bakiye yükleyin ve Claude, GPT'nin yanı sıra görüntü, video ve sesi modele bağlı olarak her sağlayıcının liste fiyatının altında çağırın — Anthropic Console yok, Google Cloud projesi yok, barındırılacak ve izlenecek proxy yok, tek bakiye. Üretim uç noktaları birinci sınıf özelliklerdir, Anthropic'e özgü Messages API aynı anahtar üzerinde bulunur ve ödeme ekranı, yerel yöntemlerle Stripe tabanlıdır. LiteLLM size çalıştıracağınız bir ağ geçidi verirken Kunavo size çağıracağınız bir ağ geçidi verir.
Nasıl seçilir (veya ikisi birlikte nasıl kullanılır)
Zaten yönettiğiniz sağlayıcı anahtarları üzerinde açık kaynaklı, kendi sunucunuzda barındırılan bir ağ geçidi istiyorsanız veya kendi altyapınızda niş/kendi sunucunuzda barındırılan model kapsamına ihtiyacınız varsa LiteLLM'yi seçin. Tek bir ön ödemeli cüzdanda liste fiyatının altında, sıfır operasyonla barındırılan çıkarım, birinci sınıf çok modlu destek ve mutabakat için tek bakiye istiyorsanız Kunavo'yu seçin. Birlikte kullanılabilirler: LiteLLM'ye Kunavo'yu OpenAI uyumlu sağlayıcı olarak kaydedin (temel URL https://api.kunavo.com/v1); böylece LiteLLM'nin yönlendirme ve bütçelerini korurken token'larınız Kunavo'nun indirimli kataloğu üzerinden çalışır.
Ödeme: LiteLLM vs Kunavo
LiteLLM bir satıcı değil, yazılımdır; dolayısıyla ödeme sorusu ortadan kalkmaz — bir katman aşağıya taşınır. Kunavo'nun ödeme sayfası doğrudan Stripe üzerinde çalışır, yani liste bizim fatura ülkemize değil ödeyen kişiye göre şekillenir ve her yöntem aynı ön ödemeli API bakiyesine yükleme yapar. Stripe'ın ulaştığı her yerde: kartlar (Visa, Mastercard, Amex, JCB, UnionPay); Hindistan dışındaki her yerde ayrıca Link ve kurulumu yapılmış cihazlarda Apple Pay ile Google Pay. ABD'de: Cash App Pay, Klarna, Afterpay, ACH banka çekimi (hesaba geçmesi 3–5 iş günü) ve kripto (stablecoin); 100 dolar ve üzeri yüklemelerde ayrıca Affirm, 100 ile 1.500 dolar arası yüklemelerde Zip. Başka yerlerde yerel yöntem yerel para birimiyle birlikte çıkar: Çin anakarasında Alipay ve WeChat Pay; Güney Kore'de KakaoPay, Naver Pay, PAYCO, Samsung Pay ve Kore yerli kartları; Hindistan'da UPI; Brezilya'da Pix; Hollanda'da iDEAL, Belçika'da Bancontact, Avusturya'da EPS, Portekiz'de MB WAY, İtalya'da Satispay; Polonya'da BLIK; Birleşik Krallık'ta Bacs Direct Debit (hesaba geçmesi birkaç iş günü); Birleşik Krallık, İrlanda ve Finlandiya'daki ödeyenler için Pay by Bank. Stripe dolar tutarını ödeme sayfasında yerel para birimine çevirir, bu yüzden yurt dışına açık bir kart aramak gerekmez; ancak kura %2–4 dönüşüm ücreti dahildir ve dolarla ödeyen bu ücreti ödemez. LiteLLM'e, çalıştırdığınız sunucuların maliyeti dışında ödenecek bir ücret yoktur; para, yapılandırdığınız her sağlayıcıya gider. Bu nedenle “Pix ile ödeme yapabilir miyim?” sorusu “Anthropic'e Pix ile ödeme yapabilir miyim?” sorusuna dönüşür; ardından aynı soru OpenAI ve Google için de tekrarlanır: üç hesap, üç konsol, üç kart gereksinimi. Kunavo bunu tek bir ödeme işleminde birleştirir; uluslararası kullanıma açık bir kart edinmenin en zor olduğu yerlerde bunun değeri özellikle yüksektir.