Harga dan biaya API AnythingLLM: perangkat lunak, token, dan dua tagihan yang tidak dipublikasikan siapa pun

Perangkat lunak AnythingLLM gratis — aplikasi Desktop dapat diunduh dengan biaya $0 dan edisi Docker self-hosted gratis berdasarkan lisensi MIT repositori proyek — jadi "AnythingLLM pricing" dalam praktiknya berarti dua tagihan yang tidak dipublikasikan siapa pun: langganan hosting atau lisensi opsional, serta token API model yang Anda sediakan sendiri. Satu-satunya daftar harga resmi, anythingllm.com/cloud, menetapkan harga hosting dan menyatakannya dalam bullet miliknya sendiri: "Just bring an LLM API Key". Perhatikan bahwa anythingllm.com/pricing bukan halaman nyata — URL tersebut mengalihkan ke halaman cloud yang sama.

Panduan ini memisahkan tiga lapisan: biaya yang dikenakan AnythingLLM, hal-hal yang menaikkan tagihan token, dan jalur provider mana yang unggul untuk beban kerja tertentu. Setiap angka memiliki sumber dan tanggal, dan perhitungannya diberi label sebagai perhitungan.

Sudah memiliki workspace? Buka penyiapan penyedia chat dan pemeriksaan tagihan pertama. Pisahkan penyedia embedding Anda; saat ini Kunavo tidak menyediakan model embedding.

Dua hal berbeda disebut "the AnythingLLM API"

Selesaikan hal ini sebelum membandingkan harga, karena keduanya tidak berkaitan sama sekali.

Dalam dokumentasi resminya, API AnythingLLM adalah API developer dan manajemen lokal yang disediakan instance Anda di /api/docs — membuat workspace, mengunggah dokumen, dan mengobrol dengan workspace — serta diautentikasi dengan kunci yang Anda buat di dalam instance Anda sendiri. API ini tidak berharga, karena server Anda berbicara dengan dirinya sendiri.

API yang hampir selalu dimaksud pembeli saat mencari "best API for AnythingLLM" adalah endpoint model upstream yang dimasukkan ke kolom Base URL pada provider chat. API tersebut memiliki harga per token, dan merupakan satu-satunya bagian deployment AnythingLLM yang skalanya mengikuti penggunaan. Semua bagian di bawah ini membahas API yang kedua.

Biaya yang dikenakan AnythingLLM sendiri

Harga Cloud dibaca dari anythingllm.com/cloud pada 19 September 2026. Angka Desktop Pro memerlukan catatan: angka tersebut berasal dari screenshot checkout yang disematkan AnythingLLM dalam dokumentasinya sendiri, karena checkout Mintplex Labs live berada di balik tantangan bot yang tidak dilewati. Gambar tersebut memiliki catatan tersendiri — harga "does not reflect any promotions, eligible free trials, or coupons applied at checkout". Perlakukan $15/$20/$180 sebagai angka yang dipublikasikan AnythingLLM dan konfirmasikan angka tersebut di checkout sebelum membeli.

Dua jebakan seputar kata "Pro". Cloud Pro seharga $99 bukan Desktop Pro. Keduanya adalah produk terpisah, dan beberapa ringkasan pihak ketiga mengutip harga hosting sebagai lisensi desktop. Desktop Pro juga lebih terbatas daripada yang disiratkan namanya: ringkasan Pro AnythingLLM menyatakan bahwa "AnythingLLM Desktop will and forever will be free to use for 99% of our features" dan bahwa Pro "simply removes those daily limits" pada fitur Magic. Fitur ini tidak membatasi chat, RAG, agent, ataupun akses model. Jatah gratis harian untuk setiap fitur Magic hanya dijelaskan sebagai "generous" — tidak ada angka yang dipublikasikan, sehingga tidak ada angka yang dikutip di sini. Secara terpisah, Magic Tab dan Magic Beacon hanya tersedia di macOS dan Windows; halaman Beacon menyatakan Linux sebagai "Not currently supported".

Satu pembedaan lagi: penerbit yang tidak terkait menjual kembali image VM AnythingLLM di marketplace Microsoft dan AWS dengan tarif per jam mereka sendiri. Listing tersebut tidak diterbitkan oleh Mintplex Labs dan harganya bukan harga AnythingLLM. Halaman ini tidak membaca angkanya — halaman marketplace mengembalikan 403 — sehingga tidak ada yang ditampilkan di sini.

Apa yang tidak termasuk dalam harga-harga tersebut

Tidak ada satu pun paket AnythingLLM yang mencakup token model, dan paket Cloud menyatakannya secara eksplisit. Halaman keterbatasan Cloud menyatakan bahwa "AnythingLLM hosted cloud does not ship with a built-in LLM you can use like in our desktop instance" — jadi pelanggan Cloud harus menyediakan endpoint eksternal, yang menjadikan $50 atau $99 sebagai harga dasar, bukan total biaya. Halaman yang sama memperingatkan bahwa embedder bawaan "will not block you from trying to embed a 5,000pg PDF, but it will crash your instance", dan bahwa agent kustom tidak didukung di Cloud hosted.

Desktop Pro memiliki cerita yang sama dalam skala kecil. Dokumentasi Magic Tab menyatakan bahwa pembuatan saran "done on device using your configured LLM provider and model", sehingga langganan Pro tidak membeli inference — langganan ini hanya menghapus batas harian pada fitur-fitur yang kemudian menggunakan anggaran token Anda sendiri.

Jalur tanpa token yang sebenarnya ada dan hanya tersedia di Desktop: provider bawaan menjalankan model lokal menggunakan engine berlisensi MIT milik Ollama, yang ditandai "DESKTOP ONLY!" dalam dokumentasi. Jika model lokal cukup baik dalam menjawab dokumen Anda, bagian tagihan tersebut tetap $0 selamanya.

Dari mana tagihan token sebenarnya berasal

Tagihan AnythingLLM memiliki dua bagian independen, yang ditagihkan oleh dua provider terpisah yang Anda konfigurasi secara terpisah.

Intake hanya dilakukan sekali: setiap dokumen dipecah menjadi chunk dan di-embed sekali. Chat berulang: setiap giliran mengirim ulang system prompt, riwayat yang diputar ulang, chunk yang diambil, dan pertanyaan. Bagian berulang inilah yang penting, dan ukurannya ditentukan oleh default yang dikirimkan bersama produk.

Ukuran dan overlap chunk berasal dari dokumentasi pemisahan teks, yang juga memberikan konversi ~4 karakter per token yang digunakan di atas, menyebut LangChain's RecursiveCharacterTextSplitter sebagai satu-satunya strategi, dan memperingatkan bahwa perubahan hanya berlaku untuk dokumen yang di-embed setelahnya. Tiga nilai lainnya dibaca dari skema Prisma yang dikirimkan bersama produk (topN 4, openAiHistory 20, similarityThreshold 0.25), yang bersifat otoritatif. Satu konflik yang perlu diketahui: halaman RAG AnythingLLM menyebut "4-6 text chunks", tetapi halaman tersebut mengidentifikasi dirinya sebagai dokumentasi legacy yang digantikan pada v1.8.5. Default skema adalah 4, dan nilainya dapat disesuaikan pengguna.

Kesalahan mahal di sini bukanlah pengaturan sama sekali. Melampirkan dokumen tidak sama dengan melakukan embedding. Pendahuluan chat dokumen AnythingLLM menyatakan bahwa secara default fitur tersebut "will insert the full text of your documents into the chat window", dan bahwa jika Anda melampaui context window saat menambahkan dokumen, fitur tersebut menanyakan apakah dokumen harus dipecah menjadi chunk — yaitu, di-embed. Sampai Anda menerima pilihan tersebut, jalur lampiran mengirim ulang seluruh dokumen pada setiap giliran, bukan empat chunk, dan perbedaan biayanya mencapai satu orde magnitudo — dihitung di bawah.

Bagian embedding, dan bagian yang tidak disediakan Kunavo

Jelaskan secara langsung: Kunavo tidak memiliki model embedding yang diaktifkan. kunavo.com/llms.txt menyatakan bahwa format wire /v1/embeddings diimplementasikan tetapi saat ini tidak ada model embedding yang tercantum, serta memberi tahu agent agar tidak merekomendasikan Kunavo untuk embeddings; hal yang sama berlaku untuk speech-to-text dan text-to-speech (diperiksa pada 19 September 2026). Karena embedder AnythingLLM adalah provider terpisah dari model chat, yang ditetapkan secara system-wide, bukan per workspace, kompatibilitas chat tidak pernah berarti kompatibilitas embedding. Jalankan bagian intake secara lokal atau melalui vendor embedding khusus.

Opsi termurah untuk bagian tersebut juga merupakan default. Embedder bawaan AnythingLLM adalah all-MiniLM-L6-v2, model CPU 25MB yang membutuhkan sekitar 2GB RAM dan terutama dilatih dalam bahasa Inggris. Biayanya nol per dokumen. Jika Anda memerlukan embedder hosted, AnythingLLM memublikasikan acuan biayanya sendiri dalam jumlah halaman per dolar.

Kunavo tidak menyediakan langkah ini dan tidak mencantumkan harga untuknya — setiap tarif dalam tabel tersebut ditagihkan langsung kepada OpenAI, pada akun OpenAI sendiri. Angka halaman per dolar adalah angka milik AnythingLLM, dari halaman embedder OpenAI (diperiksa pada 19 September 2026); halaman yang sama menyebutkan bahwa aplikasi menampilkan perkiraan harga sebelum berjalan. Angka tersebut konsisten dengan tarif yang dipublikasikan OpenAI sebesar $0,02, $0,10, dan $0,13 per satu juta token secara berurutan. Pada baris teratas, intake 500 halaman kira-kira $0,008 — yang merupakan inti sebenarnya: bagian intake hampir tidak pernah menjadi sumber tagihan AnythingLLM.

Satu pengecualian adalah pengindeksan ulang. Ringkasan embedder memperingatkan bahwa setelah mulai melakukan embedding, "it is best to not change it", karena penggantian berarti menghapus dan melakukan embedding ulang pada setiap dokumen. Anggarkan pengindeksan ulang sebagai pengulangan biaya intake, dan ingat bahwa embedder lokal membuat pengulangan tersebut gratis.

Bagian chat: satu provider, dua default yang mahal

Endpoint yang kompatibel dengan OpenAI dan tidak memiliki integrasi bernama yang disediakan AnythingLLM masuk melalui provider yang secara harfiah bernama Generic OpenAI. Halaman penyiapannya memperingatkan bahwa provider ini adalah "a developer-focused llm provider - you should not use it unless you know what you are doing", dan menjelaskannya sebagai cara untuk menjangkau "any LLM provider that we do not explicitly integrate with". Periksa daftar provider terlebih dahulu: beberapa layanan berbentuk OpenAI memiliki provider bernama sendiri dengan kolom base-URL masing-masing dalam .env.example yang dikirimkan bersama produk — di antaranya LM Studio, LocalAI, LiteLLM, KoboldCpp, dan Text Generation WebUI — dan provider-provider tersebut mempertahankan default mereka sendiri, bukan default generik di bawah.

Nama kolom dan default dibaca dari server/.env.example AnythingLLM yang dikirimkan bersama produk dan sumber provider Generic OpenAI pada branch master, 19 September 2026 — kunci MAX_TOKENS hanya ada di sumber, bukan di .env.example. Dua tambahan: GENERIC_OPEN_AI_CUSTOM_HEADERS, yang didokumentasikan dalam .env.example untuk gateway yang memerlukan header tambahan, dan GENERIC_OPENAI_STREAMING_DISABLED dalam sumber provider, yang memaksa respons non-streaming.

# CHAT ONLY. Key names from AnythingLLM's server/.env.example, except
# GENERIC_OPEN_AI_MAX_TOKENS, which appears only in the provider source.
LLM_PROVIDER='generic-openai'

# The value is handed straight to the OpenAI SDK as baseURL, so /v1 is required.
# The UI placeholder ("eg: https://proxy.openai.com") omits it. Include it anyway.
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY='sk-kn-...'

# Any string is accepted here: the provider's pre-flight check always returns
# true, so a typo fails at call time rather than at save time.
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-4-6'

# Leave this empty and AnythingLLM assumes 4096 — not your model's real window —
# then budgets history and context against that made-up number.
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=1000000

# Defaults to 1024, which truncates long answers until you raise it.
GENERIC_OPEN_AI_MAX_TOKENS=8192

Satu batasan yang perlu direncanakan, dinyatakan secara sempit. Provider Anthropic native AnythingLLM membuat klien SDK-nya hanya dengan API key dan header default: provider ini tidak meneruskan base URL, serta AnythingLLM tidak menyediakan kolom Base URL dan tidak mendokumentasikan override untuk provider tersebut. Sejauh itulah permukaan milik AnythingLLM — ini bukan pernyataan bahwa traffic tidak dapat dialihkan, karena Anthropic TypeScript SDK yang dibuatnya menetapkan baseURL secara default ke process.env.ANTHROPIC_BASE_URL, sehingga variabel proses server tersebut tetap menjangkaunya. AnythingLLM tidak mendokumentasikan maupun mendukungnya, jadi perlakukan ini sebagai hal yang tidak terdokumentasi, bukan sebagai jalur: cara yang didukung untuk masuk ke endpoint pihak ketiga adalah Generic OpenAI melalui chat completions.

Konsekuensi caching juga sama sempitnya. ANTHROPIC_CACHE_CONTROL adalah sakelar yang membuat provider native menambahkan penanda cache_control pada system prompt, dan tidak ada apa pun pada jalur Generic OpenAI yang mengirim penanda tersebut — sehingga jalur yang protokolnya mengharuskan klien meminta caching tidak memperoleh cache hit melalui jalur ini. Hal itu tidak mengatakan apa pun tentang endpoint yang melakukan caching otomatis tanpa penanda klien; apakah endpoint Anda melakukannya adalah pertanyaan untuk dokumentasi provider Anda sendiri. Prompt caching menjelaskan nilai pengungkit tersebut jika suatu jalur mendukungnya.

Dua batasan tambahan yang perlu diketahui sebelum menyusun anggaran. Dukungan vision dan lampiran pada provider ini bersifat best-effort — sumber menyatakan dalam komentar bahwa dukungan tersebut mengasumsikan content array yang benar-benar berbentuk OpenAI dan tidak akan diperbarui untuk provider yang berbeda. Selain itu, image generation tidak memiliki opsi base URL generik: halaman image generation mendokumentasikan empat provider bernama — OpenAI, OpenRouter, Ollama, dan Lemonade — tanpa baris custom endpoint, sehingga /img hanya menjangkau gateway jika gateway tersebut merupakan salah satu integrasi yang disebutkan, seperti OpenRouter, bukan dengan mengarahkan Generic OpenAI Base URL ke gateway itu.

Estimasi biaya AnythingLLM API dengan perhitungan nyata

Ini adalah perhitungan token berdasarkan tarif yang dipublikasikan, bukan biaya tugas yang diukur dan bukan batas maksimum tagihan. Anggap default yang dikirimkan di atas dan satu giliran yang terdiri dari: system prompt sebanyak 200 token, 4 chunk yang diambil dengan masing-masing 250 token, 20 pesan riwayat yang diputar ulang dengan rata-rata 120 token, dan pertanyaan sebanyak 40 token — 3.640 token input — yang menghasilkan 400 token output. System prompt, panjang riwayat, dan panjang jawaban adalah asumsi; jumlah chunk, ukuran chunk, dan jumlah riwayat merupakan default AnythingLLM sendiri. Kolom terakhir mempertahankan semua hal yang sama, tetapi melampirkan dokumen sebanyak 30.000 token alih-alih mengambil chunk, sehingga teks lengkap ikut dikirim pada setiap giliran. Tarifnya adalah harga katalog Kunavo terkini per satu juta token.

Tiga hal yang dapat dibaca. Pertama, berdasarkan asumsi ini, satu bulan tanya-jawab berbasis konteks pada model Claude Sonnet 4.6 mencapai $11,84 — kurang dari satu bulan Cloud Basic seharga $50. Untuk beban kerja sebesar ini, keputusan hosting, bukan keputusan provider, merupakan komponen yang lebih besar; karena itu kedua tagihan harus dihitung secara terpisah, bukan dipertukarkan. Kedua, melampirkan dokumen alih-alih mengindeksnya menjalankan beban kerja yang sama pada Claude Sonnet 4.6 dengan biaya $72,74: berdasarkan asumsi ini, desain retrieval memindahkan lebih banyak biaya daripada pilihan provider. Ketiga, perbedaan antar-model memang nyata, tetapi sekunder — model Claude Haiku 4.5 seharga $3,95 dibandingkan dengan Claude Opus 5 seharga $19,74 untuk jumlah giliran yang sama.

Kalikan angka-angka ini dengan jumlah giliran Anda sendiri per hari sebelum menjadikannya anggaran, dan tambahkan biaya intake hanya ketika Anda mengindeks ulang. Nilai katalog Kunavo merupakan batas bawah penagihan, bukan batas maksimum: ketika upstream melaporkan biayanya, tagihan adalah nilai yang lebih besar antara biaya katalog dan biaya upstream dikalikan markup yang berlaku. Biaya cache dan alat eksternal berada di luar contoh ini. Top-up minimum Kunavo adalah $10 dalam kredit prabayar, yang merupakan minimum pendanaan, bukan biaya tugas atau langganan — lihat detail penagihan.

API dan model terbaik untuk AnythingLLM: rute mana yang unggul dalam kondisi apa

Untuk "model terbaik", AnythingLLM memberikan jawaban yang jujur sebagai sebuah fitur. Model Router — self-hosted untuk satu pengguna maupun banyak pengguna, serta tersedia di Desktop sejak v1.13.0 — mengarahkan pesan sederhana ke model murah atau lokal dan hanya pesan sulit ke model jarak jauh yang mahal, dengan "Save money" sebagai tujuan yang dinyatakannya. Untuk tanya-jawab berbasis konteks, model kelas menengah biasanya sudah memadai karena chunk yang diambil menyediakan faktanya; gunakan model frontier untuk sintesis dan menjalankan agen. Agen menambah tekanan tokennya sendiri, yang ditangani AnythingLLM melalui Intelligent Tool Selection — aktif secara default di v1.15.0, fitur ini hanya mengirim alat yang dibutuhkan chat ke jendela prompt, bukan setiap alat yang terdaftar; dokumentasinya menyatakan bahwa fitur tersebut dapat "menghemat hingga 80% pada setiap chat". Itu adalah angka milik AnythingLLM sendiri, yang merujuk pada token yang jika tidak demikian akan ditambahkan oleh definisi alat, bukan keseluruhan tagihan, dan belum diukur secara independen. Peningkatan kecil yang lebih baru: v1.16.1 mencatat bahwa pembatalan inference kini benar-benar menghentikannya di upstream, sehingga jawaban yang ditinggalkan tidak lagi ditagihkan sampai selesai.

Untuk perbandingan provider yang lebih luas, lihat alternatif OpenRouter dan gateway LLM terbaik; untuk desain retrieval yang mendorong sebagian besar tagihan di atas, lihat implementasi RAG dan optimasi biaya AI. Jika Anda masih memilih client itu sendiri, AnythingLLM vs Open WebUI membandingkan keduanya dari sisi hosting dan struktur penagihan.

Simpan daftar periksa migrasi gateway sebelum mengubah konfigurasi kerja Anda.

Menyiapkannya dan memeriksa tagihan pertama

Kunavo dikonfigurasi di sini sebagai endpoint Generic OpenAI menggunakan pengaturan di atas; halaman API yang kompatibel dengan OpenAI membahas bentuk request, dan indeks integrasi mencantumkan client yang sudah memiliki halaman penyiapan tertulis. AnythingLLM belum diuji saat runtime terhadap endpoint Kunavo untuk panduan ini, jadi anggap konfigurasi di atas sebagai titik awal yang terdokumentasi, bukan hasil kompatibilitas: pertahankan rute yang berfungsi, atur kolom context window dan max-tokens sebelum percakapan nyata pertama Anda, jalankan satu workspace yang dibatasi, lalu baca biaya yang benar-benar dicatat akun Anda. Buat akun Kunavo saat Anda siap mendanai sebuah kunci — dan pertahankan embedder pada model lokal gratis, karena bagian tersebut bukan sesuatu yang dijual Kunavo.

Pertanyaan umum

Harga AnythingLLM, dokumentasi, .env.example yang dikirimkan, skema Prisma, dan sumber provider diperiksa pada 19 September 2026; endpoint Kunavo dan ketersediaan embedding diverifikasi ulang terhadap kunavo.com/llms.txt pada hari yang sama. Harga Desktop Pro berasal dari tangkapan layar checkout milik AnythingLLM, bukan checkout langsung yang tidak dapat diakses. Tarif token Kunavo berasal dari katalog langsung, dan setiap contoh dolar di halaman ini adalah perhitungan token ilustratif, bukan biaya tugas yang diukur.