Dokumentasi

AnythingLLM

AnythingLLM terhubung ke endpoint yang tidak memiliki penyedia khusus bernama melalui opsi Generic OpenAI: URL dasar, kunci, dan ID model yang Anda masukkan sendiri. Dua dari lima kolomnya memiliki nilai default yang diam-diam menimbulkan biaya.

AnythingLLM mengakses endpoint yang tidak memiliki provider bernama melalui Generic OpenAI — Base URL dengan /v1, key, dan model id yang Anda ketik sendiri karena tidak mengambil daftar.

Pengaturan Instance → Penyedia AI → LLM

LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192

URL dasar mempertahankan akhiran /v1. Halaman penyiapan AnythingLLM tidak menyatakannya dalam teks—namun berkas server/.env.example yang disertakan di dalamnya menunjukkan pengaturan yang sama sebagai GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1', dan kode sumber penyedia meneruskan nilai tersebut ke OpenAI SDK sebagai baseURL tanpa perubahan, serta hanya menambahkan rute. Keduanya ditinjau pada 21 September 2026.

Kunavo belum menjalankan AnythingLLM dengan endpoint ini. Halaman ini merujuk pada dokumentasi dan kode sumber yang disertakan dalam AnythingLLM sendiri pada tanggal yang tercantum di bawah, bukan laporan pengujian—halaman penyiapan yang dipublikasikan bukanlah hasil kompatibilitas, dan jangan menafsirkan informasi di sini sebagai hasil tersebut. Halaman AnythingLLM sendiri bahkan lebih tegas: "Ini adalah penyedia LLM yang ditujukan bagi pengembang—Anda sebaiknya tidak menggunakannya kecuali Anda tahu apa yang sedang Anda lakukan."

Dua kolom sebaiknya diisi meskipun tampak opsional. Jika Model context window dibiarkan kosong, penyedia menggunakan nilai default 4096, lalu menganggarkan riwayat, prompt sistem, dan konten pengguna berdasarkan batas konteks rekaan tersebut. Max Tokens menggunakan nilai default 1024, yang memotong jawaban panjang sampai Anda menaikkannya.

Konfigurasi ini hanya mengatur bagian obrolan. Embedder AnythingLLM adalah penyedia terpisah yang diatur untuk seluruh sistem, dan Kunavo tidak menyediakan model embedding—jadi jangan arahkan embedder ke sini. Gunakan embedder lokal bawaan gratis atau penyedia embedding khusus untuk bagian tersebut. Kunavo juga tidak menyediakan model ucapan-ke-teks maupun teks-ke-ucapan, jadi penyedia Transcription dan Voice & Speech di AnythingLLM bukan endpoint ini.

Belum punya kunci? Buat akun Kunavo, buat kunci (diawali sk-kn-) dan tambahkan kredit mulai dari $10 — panggilan dibayar dari saldo tersebut, dan panggilan yang gagal tidak ditagihkan. Dasbor kemudian terbuka pada penyiapan AnythingLLM.

Langkah demi langkah

Buat key di /app/keys dan salin — key hanya ditampilkan sekali.
Buka Instance Settings → AI Providers → LLM. Jalurnya sama di Desktop maupun instans yang dihosting sendiri; yang berbeda hanya cara membuka panel pengaturan.
Di bagian LLM Provider, pilih Generic OpenAI—keterangan pada kartunya berbunyi "Terhubung ke layanan apa pun yang kompatibel dengan OpenAi melalui konfigurasi kustom".
Isi kolom Base URL, API Key, dan Selected Model seperti di atas. Selected Model adalah kolom teks, bukan daftar yang diambil dari server: penyedia tidak melakukan pemeriksaan awal terhadapnya, jadi ID yang salah ketik akan diterima saat disimpan dan baru gagal ketika pesan pertama dikirim.
Atur Model context window dan Max Tokens, jangan biarkan kosong, lalu pilih Save changes.
Kirim satu pesan di ruang kerja. Ruang kerja dapat mengganti LLM sistem, jadi jika jawabannya tampak berasal dari penyedia lama, periksa pengaturan model ruang kerja itu sendiri sebelum mengubah apa pun di sini.

Diperiksa terhadap Halaman LLM OpenAI (Generic) AnythingLLM pada 21 September 2026. Pengaturan pihak ketiga dapat berubah; jika nama bidang di sini tidak lagi sama dengan yang Anda lihat, halaman tersebut adalah acuan, bukan halaman ini.

Ini versi singkatnya. Panduan lengkap — pilihan model, biaya sesi nyata, dan mode kegagalan — ada di biaya sebenarnya untuk menjalankan AnythingLLM.

Verifikasi sebelum men-debug klien

Satu permintaan menentukan apakah masalahnya ada pada endpoint, kunci, atau berkas konfigurasi. Jika ini mengembalikan JSON, base URL dan kunci yang sama berfungsi di AnythingLLM.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

ID model yang harus dimasukkan ke bidang

Setiap model teks dapat diakses melalui ID model — daftar terkininya ada di GET /v1/models, dan katalog beserta harga ada di halaman model. Tarif dalam USD per 1 juta token, input / output.

ID model	Kunavo masuk / keluar	Kegunaannya di AnythingLLM
`claude-sonnet-5`	$1.40 / $7.00	model ruang kerja sehari-hari untuk tanya jawab dokumen
`claude-haiku-4-5`	$0.70 / $3.50	ruang kerja bervolume tinggi yang menggunakan hasil pencarian sebagai sumber fakta
`claude-opus-5`	$3.50 / $17.50	ruang kerja agen atau sintesis, tempat jawaban yang salah menimbulkan biaya besar
`gpt-5-6-sol`	$2.00 / $12.00	keluarga model kedua untuk kunci yang sama, per ruang kerja
`gpt-5-6-terra`	$0.70 / $4.20	dokumen panjang yang dilampirkan secara utuh, bukan ditelusuri

Penagihan dilakukan per token dari saldo prabayar tanpa biaya bulanan — lihat penagihan. Pada konteks berulang — yang merupakan sebagian besar kiriman editor atau klien obrolan — caching prompt lebih memengaruhi tagihan daripada pilihan model.

Pertanyaan umum

Bagaimana cara menambahkan endpoint API kustom ke AnythingLLM?

Buka Instance Settings, lalu AI Providers, kemudian LLM, dan pilih penyedia bernama Generic OpenAI—keterangan pada kartunya di AnythingLLM berbunyi "Terhubung ke layanan apa pun yang kompatibel dengan OpenAi melalui konfigurasi kustom". Tersedia lima kolom: Base URL, API Key, Selected Model, Model context window, dan Max Tokens, serta tombol Save changes. Penyedia ini merupakan cara yang didukung untuk menggunakan endpoint apa pun yang kompatibel dengan OpenAI, tetapi tidak memiliki integrasi khusus bernama di AnythingLLM. Namun, periksa dulu daftar penyedianya: layanan seperti LM Studio, LocalAI, dan LiteLLM memiliki penyedia khusus dengan kolom URL dasar dan nilai default masing-masing.

Apakah URL dasar AnythingLLM harus diakhiri dengan /v1?

Ya, untuk endpoint yang kompatibel dengan OpenAI. Halaman penyiapan tidak menjelaskan format ini dalam teks, jadi acuannya adalah berkas server/.env.example yang disertakan dalam AnythingLLM sendiri, yang mencantumkan pengaturan yang sama sebagai GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'. Kode sumber penyedianya meneruskan nilai tersebut ke OpenAI SDK sebagai baseURL tanpa mengubahnya, sehingga hanya rute /chat/completions yang ditambahkan. Untuk Kunavo, URL dasarnya adalah https://api.kunavo.com/v1. Jika /v1 tidak dicantumkan, hasilnya 404, bukan kesalahan autentikasi. Kedua sumber ditinjau pada 21 September 2026.

Mengapa AnythingLLM tidak menampilkan daftar model untuk penyedia Generic OpenAI?

Karena tidak ada daftar yang ditampilkan: Selected Model adalah kolom teks yang Anda isi sendiri, dan penyedia tidak memvalidasi isinya sebelum digunakan. Ini memang dirancang untuk menjangkau endpoint yang tidak dikenal AnythingLLM, sehingga kesalahan ketik diterima saat Anda menyimpan dan baru gagal ketika pesan dikirim. Untuk membedakan ID model yang salah dari URL atau kunci yang salah, kirim permintaan /v1/models di atas menggunakan pasangan yang sama—jika responsnya berupa JSON, endpoint dan kuncinya berfungsi, dan ID-lah yang perlu diperbaiki.

Bisakah Kunavo digunakan sebagai embedder AnythingLLM sekaligus model obrolannya?

Tidak. Kunavo tidak menyediakan model embedding, jadi Kunavo tidak mencakup bagian embedder di AnythingLLM. Embedder AnythingLLM juga merupakan penyedia terpisah dari penyedia obrolan—diatur untuk seluruh sistem, bukan per ruang kerja, dan sulit diubah kemudian karena pergantian mengharuskan Anda menghapus lalu membuat ulang embedding semua dokumen. Gunakan embedder lokal bawaan yang disertakan dalam versi Desktop atau penyedia embedding khusus, dan gunakan endpoint ini untuk penyedia obrolan. Kunavo juga tidak menyediakan model ucapan-ke-teks maupun teks-ke-ucapan, jadi Transcription dan Voice & Speech juga tidak tercakup.

Apakah Kunavo telah menguji AnythingLLM dengan endpointnya?

Belum. Kunavo belum menjalankan klien mana pun di bagian ini, dan halaman ini bukan laporan pengujian—melainkan tinjauan atas dokumentasi dan kode sumber AnythingLLM yang disertakan, dengan tanggal agar Anda dapat menilai seberapa mutakhir informasinya. Informasi ini menjelaskan secara akurat kolom apa saja yang tersedia, cara AnythingLLM menggunakan setiap nilai, dan nilai default mana yang menimbulkan biaya. Namun, informasi ini tidak dapat memastikan bagaimana pemanggilan alat agen, streaming, atau lampiran berfungsi di versi yang Anda gunakan karena kami belum menjalankannya. Kirim satu pesan sebelum memindahkan ruang kerja.

Dapatkah saya mengarahkan penyedia Anthropic AnythingLLM ke endpoint pihak ketiga?

Tidak melalui fitur apa pun yang tersedia atau didokumentasikan AnythingLLM: penyedia tersebut tidak memiliki kolom Base URL di UI, dan kode sumbernya membuat klien Anthropic SDK hanya dengan kunci dan header. Cara yang didukung untuk menggunakan endpoint pihak ketiga adalah Generic OpenAI melalui chat completions, yang dikonfigurasi di halaman ini. Satu hal yang perlu dipertimbangkan: jalur Generic OpenAI tidak mengirim penanda cache_control, jadi protokol yang mengharuskan klien meminta caching tidak akan mendapatkan manfaat caching melalui jalur ini. Apakah endpoint melakukan caching tanpa penanda dari klien bergantung pada dokumentasi endpoint tersebut.