Giá và chi phí API của AnythingLLM: phần mềm, token và hai hóa đơn không ai công bố

Phần mềm AnythingLLM miễn phí — ứng dụng Desktop là bản tải xuống $0 và phiên bản Docker tự lưu trữ miễn phí theo giấy phép MIT của kho dự án — vì vậy "giá AnythingLLM" trên thực tế có nghĩa là hai hóa đơn không ai công bố: một gói đăng ký lưu trữ hoặc giấy phép tùy chọn, và token API mô hình do chính bạn cung cấp. Bảng giá chính thức duy nhất, anythingllm.com/cloud, định giá dịch vụ lưu trữ và nêu rõ điều đó trong một gạch đầu dòng của chính họ: "Chỉ cần mang theo Khóa API LLM". Lưu ý rằng anythingllm.com/pricing không phải trang thực — nó chuyển hướng tới chính trang đám mây đó.

Hướng dẫn này tách ba lớp: AnythingLLM tính phí gì, điều gì làm tăng hóa đơn token và tuyến nhà cung cấp nào phù hợp với khối lượng công việc nào. Mọi con số đều có nguồn và ngày tháng, còn phép tính được ghi rõ là phép tính.

Đã có workspace? Chuyển tới thiết lập nhà cung cấp trò chuyện và kiểm tra hóa đơn đầu tiên. Hãy giữ riêng nhà cung cấp embedding; hiện Kunavo không cung cấp mô hình embedding nào.

Có hai thứ khác nhau được gọi là "API AnythingLLM"

Hãy làm rõ điều này trước khi so sánh giá, vì hai thứ đó hoàn toàn không liên quan đến nhau.

Trong tài liệu riêng của AnythingLLM, API là API cục bộ dành cho nhà phát triển và quản trị mà phiên bản của bạn cung cấp tại /api/docs — tạo workspace, tải tài liệu lên, trò chuyện với workspace — được xác thực bằng khóa bạn tạo bên trong phiên bản của mình. API này không có giá, vì đó là máy chủ của bạn giao tiếp với chính nó.

API mà người mua tìm kiếm cụm "API tốt nhất cho AnythingLLM" gần như luôn muốn nói đến là điểm cuối mô hình thượng nguồn được điền vào trường Base URL của nhà cung cấp trò chuyện. Phần đó có giá theo token và là phần duy nhất của một hệ thống AnythingLLM mở rộng theo mức sử dụng. Mọi nội dung dưới đây đều nói về phần thứ hai.

AnythingLLM tự tính phí gì

Giá Cloud được đọc từ anythingllm.com/cloud vào ngày 19 tháng 9 năm 2026. Các con số của Desktop Pro cần được chú thích: chúng lấy từ ảnh chụp màn hình thanh toán được AnythingLLM nhúng trong tài liệu riêng, vì trang thanh toán trực tiếp của Mintplex Labs nằm sau thử thách bot chưa được vượt qua. Hình ảnh đó có chú thích riêng — mức giá "không phản ánh bất kỳ chương trình khuyến mãi, bản dùng thử miễn phí đủ điều kiện hoặc mã giảm giá nào được áp dụng khi thanh toán". Hãy coi $15/$20/$180 là con số AnythingLLM đã công bố và xác nhận lại trong bước thanh toán trước khi mua.

Hai cạm bẫy xoay quanh từ "Pro". Cloud Pro giá $99 không phải Desktop Pro. Đây là hai sản phẩm riêng biệt, và một số bản tóm tắt của bên thứ ba trích giá lưu trữ làm giá giấy phép desktop. Ngoài ra, Desktop Pro hẹp hơn tên gọi gợi ý: tổng quan Pro của AnythingLLM nêu rằng "AnythingLLM Desktop sẽ và mãi mãi miễn phí sử dụng 99% tính năng của chúng tôi" và Pro "chỉ đơn giản là gỡ bỏ các giới hạn hằng ngày" trên các tính năng Magic. Nó không giới hạn trò chuyện, RAG, agent hay quyền truy cập mô hình nào. Hạn mức miễn phí hằng ngày của mỗi tính năng Magic chỉ được mô tả là "hào phóng" — không công bố con số, nên không trích dẫn ở đây. Riêng Magic Tab và Magic Beacon chỉ có trên macOS và Windows; trang Beacon ghi Linux là "Hiện không được hỗ trợ".

Một điểm cần phân biệt nữa: các nhà phát hành không liên quan bán lại hình ảnh VM AnythingLLM trên marketplace của Microsoft và AWS với mức giá theo giờ riêng của họ. Các danh sách đó không do Mintplex Labs công bố và giá của chúng không phải giá AnythingLLM. Trang này chưa đọc các con số đó — các trang marketplace trả về 403 — nên không có con số nào xuất hiện ở đây.

Những gì không có trong bất kỳ mức giá nào

Không gói AnythingLLM nào bao gồm token mô hình, và các gói Cloud nói rõ điều đó. Trang giới hạn Cloud nêu rằng "Cloud được lưu trữ của AnythingLLM không đi kèm LLM tích hợp sẵn mà bạn có thể sử dụng như trong phiên bản desktop của chúng tôi" — vì vậy người đăng ký Cloud phải mang theo một điểm cuối bên ngoài, khiến mức $50 hoặc $99 chỉ là mức sàn chứ không phải tổng chi phí. Cùng trang đó cảnh báo rằng bộ nhúng tích hợp "sẽ không ngăn bạn thử nhúng một tệp PDF 5.000pg, nhưng nó sẽ làm phiên bản của bạn bị treo", và agent tùy chỉnh không được hỗ trợ trên Cloud lưu trữ.

Desktop Pro cũng tương tự ở quy mô nhỏ hơn. Tài liệu Magic Tab nêu rằng việc tạo đề xuất được "thực hiện trên thiết bị bằng nhà cung cấp LLM và mô hình bạn đã cấu hình", nên gói đăng ký Pro không mua quyền suy luận — nó chỉ mua việc gỡ bỏ giới hạn hằng ngày đối với các tính năng sau đó sử dụng ngân sách token của chính bạn.

Tuyến thực sự không dùng token tồn tại và chỉ dành cho Desktop: nhà cung cấp tích hợp chạy một mô hình cục bộ bằng công cụ được cấp phép MIT của Ollama, được đánh dấu "CHỈ DÀNH CHO DESKTOP!" trong tài liệu. Nếu mô hình cục bộ trả lời tài liệu của bạn đủ tốt, nửa hóa đơn đó sẽ là $0 vĩnh viễn.

Hóa đơn token thực sự đến từ đâu

Hóa đơn AnythingLLM có hai nửa độc lập, do hai nhà cung cấp riêng biệt mà bạn cấu hình riêng tính phí.

Tiếp nhận là một lần: mọi tài liệu được chia thành các đoạn và nhúng một lần. Trò chuyện lặp lại: mỗi lượt gửi lại system prompt, lịch sử được phát lại, các đoạn được truy xuất và câu hỏi. Nửa lặp lại mới là phần quan trọng, và các giá trị mặc định được cung cấp sẵn là yếu tố quyết định quy mô của nó.

Kích thước và phần chồng lấn của đoạn lấy từ tài liệu chia tách văn bản, tài liệu này cũng cung cấp quy đổi ~4 ký tự mỗi token được dùng ở trên, nêu LangChain's RecursiveCharacterTextSplitter là chiến lược duy nhất và cảnh báo rằng các thay đổi chỉ áp dụng cho những tài liệu được nhúng sau đó. Ba giá trị còn lại được đọc từ lược đồ Prisma được cung cấp sẵn (topN 4, openAiHistory 20, similarityThreshold 0.25), đây là nguồn có tính thẩm quyền. Có một xung đột cần biết: trang RAG của AnythingLLM nói "4-6 đoạn văn bản", nhưng trang đó tự nhận là tài liệu cũ đã được thay thế trong v1.8.5. Giá trị mặc định trong lược đồ là 4 và người dùng có thể điều chỉnh.

Sai lầm tốn kém ở đây hoàn toàn không phải là một thiết lập. Đính kèm tài liệu không đồng nghĩa với nhúng tài liệu. Phần giới thiệu về trò chuyện với tài liệu của AnythingLLM cho biết theo mặc định hệ thống "sẽ chèn toàn bộ văn bản của tài liệu vào cửa sổ trò chuyện", và nếu bạn vượt quá cửa sổ ngữ cảnh khi thêm tài liệu, hệ thống sẽ hỏi có muốn chia chúng thành các đoạn hay không — tức là nhúng chúng. Cho đến khi bạn chấp nhận tùy chọn đó, tuyến đính kèm sẽ gửi lại toàn bộ tài liệu trong mỗi lượt thay vì bốn đoạn, và chênh lệch chi phí lớn hơn một bậc độ lớn — được định lượng bên dưới.

Phần embedding và phần Kunavo không cung cấp

Hãy nói rõ điều này: Kunavo không bật mô hình embedding nào. kunavo.com/llms.txt cho biết định dạng wire /v1/embeddings đã được triển khai nhưng hiện chưa có mô hình embedding nào được liệt kê, đồng thời yêu cầu các agent không đề xuất Kunavo cho embedding; điều tương tự cũng đúng với chuyển giọng nói thành văn bản và chuyển văn bản thành giọng nói (được kiểm tra ngày 19 tháng 9 năm 2026). Vì embedder của AnythingLLM là một nhà cung cấp riêng biệt với mô hình chat, được thiết lập trên toàn hệ thống thay vì theo từng workspace, khả năng tương thích với chat không bao giờ đồng nghĩa với khả năng tương thích với embedding. Hãy chạy phần intake cục bộ hoặc thông qua một nhà cung cấp embedding chuyên dụng.

Lựa chọn rẻ nhất cho phần đó cũng là mặc định. Embedder tích hợp sẵn của AnythingLLM là all-MiniLM-L6-v2, một mô hình CPU 25MB cần khoảng 2GB RAM và chủ yếu được huấn luyện bằng tiếng Anh. Mô hình này không mất phí cho mỗi tài liệu. Nếu cần embedder được lưu trữ thay thế, AnythingLLM công bố mốc chi phí riêng theo số trang trên mỗi đô la.

Kunavo không cung cấp bước này và không báo giá cho bước này — mọi mức phí trong bảng đó đều do OpenAI trực tiếp tính phí, qua tài khoản trên chính nền tảng OpenAI. Số trang trên mỗi đô la là số liệu riêng của AnythingLLM, lấy từ trang embedder OpenAI của họ (được kiểm tra ngày 19 tháng 9 năm 2026); trang này cũng lưu ý rằng ứng dụng hiển thị ước tính giá trước khi chạy. Các số liệu này nhất quán với mức giá được công bố của OpenAI là lần lượt $0,02, $0,10 và $0,13 cho mỗi triệu token. Ở hàng đầu tiên, một lần nạp dữ liệu gồm 500 trang có chi phí khoảng $0,008 — và đây mới là điểm chính: phần nạp dữ liệu hầu như không bao giờ là nơi tập trung chi phí trong hóa đơn AnythingLLM.

Ngoại lệ duy nhất là lập chỉ mục lại. Tổng quan về embedder cảnh báo rằng một khi đã bắt đầu embedding thì “tốt nhất không nên thay đổi”, vì việc chuyển đổi đồng nghĩa với xóa và embedding lại mọi tài liệu. Hãy dự trù chi phí lập chỉ mục lại tương đương một lần intake, và nhớ rằng embedder cục bộ khiến lần lặp lại đó miễn phí.

Phần chat: một nhà cung cấp, hai mặc định tốn kém

Một endpoint tương thích với OpenAI mà AnythingLLM không tích hợp theo tên nhà cung cấp sẽ đi qua nhà cung cấp có tên chính thức là Generic OpenAI. Trang thiết lập của nhà cung cấp này cảnh báo rằng đây là “một nhà cung cấp LLM dành cho nhà phát triển - bạn không nên sử dụng trừ khi biết mình đang làm gì”, đồng thời mô tả đây là cách truy cập “bất kỳ nhà cung cấp LLM nào mà chúng tôi không tích hợp rõ ràng”. Trước tiên hãy kiểm tra danh sách nhà cung cấp: một số dịch vụ có hình thức OpenAI có các nhà cung cấp riêng với trường base URL riêng trong .env.example đi kèm — trong đó có LM Studio, LocalAI, LiteLLM, KoboldCpp và Text Generation WebUI — và chúng giữ các giá trị mặc định riêng thay vì các giá trị generic bên dưới.

Tên trường và giá trị mặc định được lấy từ server/.env.example đi kèm AnythingLLM và mã nguồn nhà cung cấp Generic OpenAI trên nhánh master, ngày 19 tháng 9 năm 2026 — khóa MAX_TOKENS chỉ có trong mã nguồn, không có trong .env.example. Có thêm hai mục: GENERIC_OPEN_AI_CUSTOM_HEADERS, được ghi lại trong .env.example cho các gateway cần header bổ sung, và GENERIC_OPENAI_STREAMING_DISABLED trong mã nguồn nhà cung cấp, buộc phản hồi không sử dụng streaming.

# CHAT ONLY. Key names from AnythingLLM's server/.env.example, except
# GENERIC_OPEN_AI_MAX_TOKENS, which appears only in the provider source.
LLM_PROVIDER='generic-openai'

# The value is handed straight to the OpenAI SDK as baseURL, so /v1 is required.
# The UI placeholder ("eg: https://proxy.openai.com") omits it. Include it anyway.
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY='sk-kn-...'

# Any string is accepted here: the provider's pre-flight check always returns
# true, so a typo fails at call time rather than at save time.
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-4-6'

# Leave this empty and AnythingLLM assumes 4096 — not your model's real window —
# then budgets history and context against that made-up number.
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=1000000

# Defaults to 1024, which truncates long answers until you raise it.
GENERIC_OPEN_AI_MAX_TOKENS=8192

Một ranh giới cần tính đến, được nêu một cách giới hạn. Nhà cung cấp Anthropic gốc của AnythingLLM khởi tạo SDK client chỉ với API key và header mặc định: nó không truyền base URL, đồng thời AnythingLLM không cung cấp trường Base URL và không ghi nhận cách ghi đè nào cho nhà cung cấp này. Đó là toàn bộ phạm vi mà giao diện riêng của AnythingLLM cung cấp — điều này không có nghĩa là lưu lượng không thể được chuyển hướng, vì Anthropic TypeScript SDK mà nó khởi tạo mặc định baseURL thành process.env.ANTHROPIC_BASE_URL, nên biến ở quy trình máy chủ đó vẫn được truyền tới SDK. AnythingLLM không ghi nhận cũng không hỗ trợ cách này, vì vậy hãy coi đây là tính năng không được ghi nhận thay vì một tuyến được hỗ trợ: cách được hỗ trợ để truy cập endpoint bên thứ ba là Generic OpenAI thông qua chat completions.

Hệ quả đối với caching cũng tương tự. ANTHROPIC_CACHE_CONTROL là công tắc khiến nhà cung cấp gốc thêm một marker cache_control vào system prompt, còn không có gì trên tuyến Generic OpenAI gửi marker đó — vì vậy một tuyến mà giao thức yêu cầu client yêu cầu caching sẽ không nhận được cache hit qua tuyến này. Điều đó không nói gì về các endpoint tự động cache mà không cần marker từ client; tuyến của bạn có làm vậy hay không là câu hỏi dành cho tài liệu riêng của nhà cung cấp. Bộ nhớ đệm prompt giải thích giá trị của cần gạt này khi một tuyến có hỗ trợ nó.

Hai giới hạn khác đáng biết trước khi lập ngân sách. Hỗ trợ vision và tệp đính kèm trên nhà cung cấp này chỉ ở mức best-effort — mã nguồn nêu trong một comment rằng nó giả định mảng nội dung thực sự có định dạng OpenAI và sẽ không được cập nhật cho các nhà cung cấp khác biệt. Tính năng tạo ảnh không có tùy chọn base URL generic: trang tạo ảnh ghi nhận bốn nhà cung cấp có tên — OpenAI, OpenRouter, Ollama và Lemonade — và không có dòng endpoint tùy chỉnh, vì vậy /img chỉ tới một gateway khi gateway đó là một trong các tích hợp có tên, như OpenRouter, chứ không phải bằng cách trỏ Generic OpenAI Base URL tới gateway đó.

Một ước tính chi phí API AnythingLLM có tính toán cụ thể

Đây là phép tính token dựa trên mức giá đã công bố, không phải chi phí tác vụ đo được và không phải mức trần hóa đơn. Giả sử các giá trị mặc định ở trên và một lượt gồm: system prompt 200 token, 4 đoạn được truy xuất, mỗi đoạn có 250 token, 20 tin nhắn history được phát lại, trung bình mỗi tin nhắn có 120 token, và một câu hỏi 40 token — 3.640 token đầu vào — trả về 400 token đầu ra. System prompt, độ dài history và độ dài câu trả lời là các giả định; số đoạn, kích thước đoạn và số lượng tin nhắn history là các giá trị mặc định riêng của AnythingLLM. Cột cuối giữ nguyên mọi thứ nhưng đính kèm một tài liệu 30.000 token thay vì truy xuất các đoạn, để toàn bộ văn bản được gửi kèm trong mỗi lượt. Mức giá là giá trong catalog của Kunavo hiện tại cho mỗi triệu token.

Ba cách diễn giải. Thứ nhất, theo các giả định này, một tháng hỏi-đáp có grounding trên các mô hình Claude Sonnet 4.6 có chi phí là $11,84 — thấp hơn một tháng Cloud Basic duy nhất với giá $50. Với khối lượng công việc cỡ này, quyết định về hosting chứ không phải quyết định về nhà cung cấp mới là khoản lớn hơn, đó là lý do hai hóa đơn phải được ước tính riêng thay vì đánh đổi cho nhau. Thứ hai, đính kèm tài liệu thay vì lập chỉ mục tài liệu khiến cùng khối lượng công việc trên Claude Sonnet 4.6 có chi phí $72,74: theo các giả định này, thiết kế truy xuất làm thay đổi chi phí nhiều hơn lựa chọn nhà cung cấp. Thứ ba, chênh lệch giữa các mô hình là có thật nhưng thứ yếu — các mô hình Claude Haiku 4.5 có chi phí $3,95 so với Claude Opus 5 ở mức $19,74 cho cùng số lượt.

Hãy nhân các con số này với số lượt mỗi ngày của bạn trước khi xem chúng là ngân sách, và chỉ cộng chi phí intake khi bạn lập chỉ mục lại. Số tiền trong catalog của Kunavo là mức sàn tính phí chứ không phải mức trần: khi upstream báo phí, hóa đơn là giá trị lớn hơn giữa chi phí trong catalog và chi phí upstream nhân với phần markup áp dụng. Phí bộ nhớ đệm và công cụ bên ngoài nằm ngoài ví dụ này. Khoản nạp tối thiểu của Kunavo là $10 tín dụng trả trước, đây là mức tối thiểu để nạp tiền chứ không phải phí tác vụ hay gói đăng ký — xem chi tiết thanh toán.

API tốt nhất và mô hình tốt nhất cho AnythingLLM: khi nào tuyến nào thắng

Về “mô hình tốt nhất”, AnythingLLM đưa ra câu trả lời trung thực dưới dạng một tính năng. Model Router — tự lưu trữ cho một người dùng và nhiều người dùng, đồng thời có trên Desktop kể từ v1.13.0 — định tuyến các tin nhắn đơn giản đến một mô hình rẻ hoặc cục bộ, còn những tin nhắn khó chỉ đến mô hình từ xa đắt hơn, với mục đích được nêu là “Tiết kiệm tiền”. Đối với hỏi-đáp có grounding, một mô hình tầm trung thường là đủ, vì các đoạn được truy xuất cung cấp dữ kiện; hãy dành mô hình frontier cho việc tổng hợp và các lượt chạy agent. Agent tạo thêm áp lực token riêng, và AnythingLLM xử lý điều này bằng Intelligent Tool Selection — được bật mặc định trong v1.15.0, tính năng này chỉ gửi các công cụ mà một cuộc chat cần vào cửa sổ prompt thay vì mọi công cụ đã đăng ký, điều mà tài liệu của họ cho biết có thể “tiết kiệm tới 80% trong từng cuộc chat”. Đó là con số riêng của AnythingLLM, nói về số token mà định nghĩa công cụ nếu không sẽ bổ sung chứ không phải toàn bộ hóa đơn, và chưa được đo lường độc lập. Một cải tiến nhỏ gần đây: v1.16.1 lưu ý rằng việc hủy inference hiện thực sự dừng nó ở upstream, vì vậy câu trả lời bị bỏ dở không còn bị tính phí đến khi hoàn tất.

Để so sánh nhà cung cấp rộng hơn, xem các lựa chọn thay thế cho OpenRouter và gateway LLM tốt nhất; đối với thiết kế truy xuất chi phối phần lớn hóa đơn ở trên, xem triển khai RAG và tối ưu chi phí AI. Nếu bạn vẫn đang chọn chính client, AnythingLLM và Open WebUI so sánh hai sản phẩm về hình thức hosting và thanh toán.

Hãy lưu danh sách kiểm tra chuyển đổi gateway trước khi thay đổi cấu hình đang hoạt động.

Thiết lập và kiểm tra hóa đơn đầu tiên

Kunavo được cấu hình tại đây như một endpoint Generic OpenAI bằng các thiết lập ở trên; trang API tương thích với OpenAI trình bày cấu trúc request, còn mục lục tích hợp liệt kê các client đã có trang thiết lập riêng. AnythingLLM chưa được kiểm thử khi chạy thực tế với endpoint của Kunavo cho hướng dẫn này, vì vậy hãy coi cấu hình trên là điểm bắt đầu được ghi nhận thay vì kết quả về khả năng tương thích: duy trì một tuyến đang hoạt động, thiết lập các trường context window và max-tokens trước cuộc trò chuyện thực tế đầu tiên, chạy một workspace có giới hạn, rồi đọc khoản phí thực tế được ghi nhận trên tài khoản của bạn. Tạo tài khoản Kunavo khi bạn sẵn sàng nạp tiền cho một khóa — và giữ embedder ở mô hình cục bộ miễn phí, vì Kunavo không bán phần đó.

Câu hỏi thường gặp

Giá AnythingLLM, tài liệu, .env.example đi kèm, Prisma schema và mã nguồn nhà cung cấp được kiểm tra ngày 19 tháng 9 năm 2026; endpoint Kunavo và khả năng cung cấp embedding được kiểm tra lại dựa trên kunavo.com/llms.txt cùng ngày. Giá Desktop Pro lấy từ ảnh chụp màn hình checkout của AnythingLLM thay vì checkout trực tiếp, vì checkout trực tiếp không thể truy cập. Mức giá token của Kunavo lấy từ catalog hiện tại, và mọi ví dụ tính bằng đô la trên trang này đều là phép tính token minh họa chứ không phải chi phí tác vụ đo được.