Dokümantasyon

AnythingLLM

AnythingLLM, belirli bir sağlayıcı olarak sunmadığı bir uç noktaya Generic OpenAI adlı sağlayıcı üzerinden bağlanır: bir Base URL, bir anahtar ve elle yazdığınız bir model kimliği. Beş alanından ikisinin varsayılan değerleri, fark ettirmeden maliyete yol açar.

AnythingLLM, adlandırılmış sağlayıcısı olmayan bir uç noktaya Generic OpenAI adlı tek seçenek üzerinden ulaşır — /v1 içeren Base URL, anahtar ve kendiniz yazdığınız model kimliği; çünkü liste getirmez.

Örnek Ayarları → AI Sağlayıcıları → LLM

LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192

Base URL sonundaki /v1 ekini korur. AnythingLLM'in kurulum sayfası bunu metin olarak belirtmez; ancak dağıtımla birlikte gelen server/.env.example aynı ayarı GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1' olarak yazar. Sağlayıcı kaynak kodu da bu değeri değiştirmeden OpenAI SDK'sına baseURL olarak aktarır ve yalnızca rotayı ekler. Her iki kaynak da 21 Eylül 2026'da incelendi.

Kunavo, AnythingLLM'i bu uç noktada çalıştırmadı. Bu sayfa bir test raporu değil; aşağıda belirtilen tarihte AnythingLLM'in kendi belgelerinin ve dağıtımla birlikte gelen kaynak kodunun incelenmesidir. Yayımlanmış bir kurulum sayfası uyumluluk sonucu sayılmaz ve buradaki bilgiler de öyle okunmamalıdır. AnythingLLM'in kendi sayfası daha da açık konuşuyor: "This is a developer-focused llm provider - you should not use it unless you know what you are doing."

İsteğe bağlı gibi görünseler de iki alanı doldurmakta fayda var. Model context window alanını boş bırakırsanız sağlayıcı 4096 varsayılanına döner ve geçmişi, sistem istemini ve kullanıcı içeriğini bu uydurma pencereye göre sınırlar. Max Tokens alanı 1024 varsayılanına döner; bu da değeri artırana kadar uzun yanıtları keser.

Bu yalnızca sohbet bölümünü yapılandırır. AnythingLLM'in embedder'ı ayrı bir sağlayıcıdır ve sistem genelinde ayarlanır; Kunavo herhangi bir gömme modeli sunmaz. Bu nedenle embedder'ı buraya yönlendirmeyin; bu bölüm için ücretsiz, yerleşik yerel embedder'ı veya özel bir gömme hizmeti sağlayıcısını kullanın. Kunavo ayrıca konuşmadan metne veya metinden konuşmaya modeli sunmadığından AnythingLLM'in Transcription ve Voice & Speech sağlayıcıları da bu uç noktayı kullanmaz.

Henüz anahtarınız yok mu? Bir Kunavo hesabı oluşturun, bir anahtar oluşturun ( sk-kn- ile başlar) ve $10'dan kredi ekleyin — çağrılar bu bakiyeden ödenir ve başarısız çağrılar ücretlendirilmez. Ardından kontrol paneli AnythingLLM kurulumunda açılır.

Adım adım

/app/keys adresinde bir anahtar oluşturup kopyalayın — anahtar yalnızca bir kez gösterilir.
Instance Settings → AI Providers → LLM bölümünü açın. Masaüstü uygulamasında ve kendi sunucunuzda barındırılan bir örnekte yol aynıdır; yalnızca ayarlar bölmesine erişim şekli değişir.
LLM Provider bölümünde Generic OpenAI seçeneğini belirleyin. Kendi kartında "Connect to any OpenAi-compatible service via a custom configuration" olarak açıklanır.
Yukarıdaki gibi Base URL, API Key ve Selected Model alanlarını doldurun. Selected Model bir metin alanıdır, listeden seçilmez: sağlayıcı ön kontrol yapmadığından yanlış yazılmış bir kimlik kaydetme sırasında kabul edilir ve ilk mesaj gönderildiğinde hata verir.
Model context window ve Max Tokens alanlarını boş bırakmak yerine ayarlayın, ardından Save changes'i seçin.
Bir çalışma alanında mesaj gönderin. Çalışma alanı sistem LLM'ini geçersiz kılabilir; yanıt eski sağlayıcıdan gelmiş gibi görünüyorsa buradaki ayarları değiştirmeden önce çalışma alanının kendi model ayarını kontrol edin.

AnythingLLM'in OpenAI (Generic) LLM sayfası ile 21 Eylül 2026 tarihinde kontrol edilmiştir. Üçüncü taraf ayarları değişebilir; buradaki alan adı gördüğünüzle artık eşleşmiyorsa yetkili kaynak bu sayfa değil, ilgili sayfadır.

Kısa sürüm budur. Model seçimi, gerçek bir oturumun maliyeti ve hata durumlarını içeren tam rehber Bir AnythingLLM dağıtımının gerçek maliyeti içindedir.

İstemcide hata ayıklamadan önce doğrulayın

Tek bir istek, hatanın uç noktadan mı, anahtardan mı yoksa yapılandırma dosyasından mı kaynaklandığını kesinleştirir. Bu JSON döndürürse aynı temel URL ve anahtar AnythingLLM içinde çalışır.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

Alana hangi model kimliği yazılmalı

Her metin modeline model kimliğiyle erişilebilir — güncel liste GET /v1/models, fiyatları içeren katalog ise modeller sayfasında. Ücretler 1 milyon token başına USD cinsindendir; giriş / çıkış.

Model kimliği	Kunavo giriş / çıkış	AnythingLLM içinde kullanım alanı
`claude-sonnet-5`	$1.40 / $7.00	Belge soru-cevap için günlük çalışma alanı modeli
`claude-haiku-4-5`	$0.70 / $3.50	Bilgiyi erişimin sağladığı, yüksek hacimli çalışma alanları
`claude-opus-5`	$3.50 / $17.50	Yanlış yanıtın maliyetli olduğu aracı veya sentez çalışma alanı
`gpt-5-6-sol`	$2.00 / $12.00	Aynı anahtar için çalışma alanı başına ikinci bir model ailesi
`gpt-5-6-terra`	$0.70 / $4.20	Erişimle getirmek yerine tümüyle eklenen uzun belgeler

Faturalandırma aylık ücret olmadan, ön ödemeli bakiyeden token başına yapılır — faturalandırmaya bakın. Tekrarlanan bağlamda — bir düzenleyicinin veya sohbet istemcisinin gönderdiği içeriğin çoğu budur — istem önbellekleme, faturayı model seçiminden daha fazla değiştirir.

Sık sorulan sorular

AnythingLLM'e özel API uç noktası nasıl eklenir?

Instance Settings, ardından AI Providers ve LLM bölümlerini açıp Generic OpenAI adlı sağlayıcıyı seçin. AnythingLLM'in bu sağlayıcıya ait kartında "Connect to any OpenAi-compatible service via a custom configuration" yazar. Sağlayıcıda beş alan bulunur: Base URL, API Key, Selected Model, Model context window ve Max Tokens; ayrıca Save changes düğmesi vardır. AnythingLLM'in adlandırılmış bir entegrasyon sunmadığı tüm OpenAI uyumlu uç noktalar için desteklenen yol budur. Yine de önce sağlayıcı listesini kontrol edin: LM Studio, LocalAI ve LiteLLM gibi hizmetlerin kendi adlandırılmış sağlayıcıları, temel URL alanları ve varsayılanları vardır.

AnythingLLM Base URL'sinin sonunda /v1 bulunması gerekir mi?

Evet, OpenAI uyumlu bir uç nokta için gerekir. Kurulum sayfasında biçim metin olarak belirtilmediğinden, bunu açıklığa kavuşturan AnythingLLM'in dağıtımla birlikte gelen server/.env.example dosyasıdır. Aynı ayarı GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1' olarak yazar. Sağlayıcı kaynak kodu bu değeri değiştirmeden OpenAI SDK'sına baseURL olarak aktarır; dolayısıyla yalnızca /chat/completions rotası eklenir. Kunavo için Base URL https://api.kunavo.com/v1 olmalıdır. /v1 eksikse kimlik doğrulama hatası yerine 404 alınır. Her iki kaynak da 21 Eylül 2026'da incelendi.

Generic OpenAI sağlayıcısında AnythingLLM neden model listesi göstermiyor?

Gösterilecek bir liste yoktur: Selected Model, elle yazdığınız bir metin alanıdır ve sağlayıcı yazdığınız değeri önceden doğrulamaz. Bu, AnythingLLM'in hakkında hiçbir şey bilmediği uç noktalara bağlanmak için tasarlanmış sağlayıcının davranışıdır. Bu nedenle yazım hatası kaydederken kabul edilir ve ancak mesaj gönderdiğinizde hata verir. Hatalı model kimliğini hatalı URL veya anahtardan ayırmak için yukarıdaki /v1/models isteğini aynı URL ve anahtarla çalıştırın. JSON yanıtı alırsanız uç nokta ve anahtar doğru, düzeltilmesi gereken model kimliğidir.

Kunavo, AnythingLLM'in embedder'ı ve sohbet modeli olarak birlikte kullanılabilir mi?

Hayır. Kunavo herhangi bir gömme modeli sunmadığından AnythingLLM'in embedder bileşenini karşılamaz. Ayrıca AnythingLLM'in embedder'ı sohbet sağlayıcısından ayrıdır; çalışma alanı başına değil sistem genelinde ayarlanır ve daha sonra değiştirmek zordur, çünkü geçiş yapmak her belgeyi silip yeniden gömmeyi gerektirir. Masaüstü sürümüyle gelen yerleşik yerel embedder'ı veya özel bir gömme hizmeti sağlayıcısını kullanın; bu uç noktayı sohbet sağlayıcısı olarak bırakın. Kunavo konuşmadan metne veya metinden konuşmaya modeli de sunmadığından Transcription ve Voice & Speech özellikleri de bunun kapsamında değildir.

Kunavo, AnythingLLM'i kendi uç noktasında test etti mi?

Hayır. Kunavo bu bölümdeki istemcilerin hiçbirini çalıştırmadı; bu sayfa bir test raporu değil, AnythingLLM'in kendi belgelerinin ve dağıtımla birlikte gelen kaynak kodunun, ne kadar güncel olduğunu görebilmeniz için tarih atılmış bir incelemesidir. Hangi alanların bulunduğunu, AnythingLLM'in her değerle ne yaptığını ve hangi varsayılanların maliyet getirdiğini dürüstçe açıklayabilir. Ancak burada kimse bu istemciyi çalıştırmadığından araç çağrılarının, akışın veya eklerin derlemenizde nasıl çalıştığını söyleyemez. Bir çalışma alanını taşımadan önce bir mesaj gönderin.

AnythingLLM'in Anthropic sağlayıcısını bunun yerine üçüncü taraf bir uç noktaya yönlendirebilir miyim?

AnythingLLM'in sunduğu veya belgelediği hiçbir yöntemle bunu yapamazsınız: bu sağlayıcının arayüzünde Base URL alanı yoktur ve kaynak kodu Anthropic SDK istemcisini yalnızca anahtar ve başlıklarla oluşturur. Üçüncü taraf bir uç noktaya bağlanmak için desteklenen yol, bu sayfada yapılandırılan chat completions üzerinden Generic OpenAI'dir. Göz önünde bulundurmanız gereken bir sonuç var: Generic OpenAI yolu cache_control işaretleyicisi göndermez. Bu nedenle istemcinin önbelleğe alma isteğinde bulunmasını gerektiren bir protokolde bu yol üzerinden isabet alınmaz. Uç noktanın istemci işaretleyicisi olmadan önbelleğe alıp almadığını öğrenmek için kendi belgelerine bakın.