AnythingLLM và Open WebUI: RAG, triển khai và chi phí mô hình

Chọn AnythingLLM khi bạn muốn một sản phẩm RAG theo mô hình workspace được lắp sẵn — tài liệu, embedder cục bộ, vector store cục bộ và agent trong một lần cài đặt. Chọn Open WebUI khi bạn muốn một nền tảng trò chuyện đa người dùng với tính năng kiểm soát truy cập dựa trên vai trò miễn phí và dù sao cũng định tự cung cấp endpoint model. Cả hai đều miễn phí khi tự lưu trữ, đều chấp nhận base URL tương thích với OpenAI bên thứ ba cùng một khóa, và trong cả hai trường hợp, chi phí định kỳ là chi phí lưu trữ cộng token model thay vì chi phí phần mềm.

Trang này trả lời phép so sánh theo cả hai chiều; không có trang đảo thứ tự riêng, vì “AnythingLLM vs Open WebUI” và “Open WebUI vs AnythingLLM” là cùng một quyết định. Mọi nhận định dưới đây đều được trích từ trang web, tài liệu hoặc repository của chính từng dự án và đã được kiểm tra vào ngày 18 tháng 9 năm 2026. Kunavo chưa kiểm thử runtime với client nào, nên ở đây không có benchmark, số liệu độ trễ hay kết luận về chất lượng truy xuất.

Một lưu ý về tên gọi trước khi so sánh: Open WebUI trước đây có tên là Ollama WebUI và được đổi tên sau khi nhóm Ollama cho biết họ muốn tránh việc người dùng nhầm dự án này với một sản phẩm mang nhãn hiệu Ollama chính thức, trong cuộc thảo luận công khai về tên gọi của dự án — một dự án mà trang nhóm cho biết do người tạo và nhà sáng lập Tim J. Baek dẫn dắt. Các fork vẫn còn khẩu hiệu cũ không phải là đối thủ đang hoạt động riêng biệt. text-generation-webui cũng không phải, cũng như giao diện web Stable Diffusion hay thư viện any-llm của Mozilla AI.

Ai nên chọn sản phẩm nào

Việc di chuyển giữa hai sản phẩm rẻ hơn tưởng ở một chiều và không phải ở chiều kia. Kết nối trò chuyện có thể chuyển đổi: cùng base URL và khóa có thể được chuyển trong vài phút. Tài liệu của bạn thì không — mỗi sản phẩm có mô hình workspace hoặc knowledge riêng và vector store riêng, nên chuyển đổi đồng nghĩa với việc nhập lại và embedding lại toàn bộ dữ liệu. Có hai điểm không thể quay lại cần biết trước khi cam kết: tài liệu AnythingLLM nêu rằng một khi instance ở chế độ đa người dùng thì bạn không thể quay lại chế độ một người dùng, và AnythingLLM Desktop được mô tả là ứng dụng cho một người dùng, vì vậy một thử nghiệm desktop phát triển thành triển khai cho nhóm sẽ là chuyển sang Docker thay vì nâng cấp.

Chi phí của từng sản phẩm

Các nguồn, đều được kiểm tra ngày 18 tháng 9 năm 2026: giá AnythingLLM, tổng quan Desktop Pro, giấy phép doanh nghiệp Open WebUI và trang giấy phép của sản phẩm. Ba lưu ý. Thứ nhất, “AnythingLLM Pro” là tên của hai sản phẩm không liên quan — gói Cloud lưu trữ $99 và khóa giấy phép Desktop Pro — nên mức giá được nêu mà không nói rõ sản phẩm nào thì vô nghĩa. Thứ hai, không có giá Desktop Pro nào được công bố ở bất kỳ đâu mà chúng tôi truy cập được: URL thanh toán duy nhất từ chối các yêu cầu không phải trình duyệt vào ngày kiểm tra, vì vậy hãy coi số tiền là chưa được xác minh và đọc số tiền tại bước thanh toán. Thứ ba, các trang của chính nhà cung cấp không thống nhất về tên gói — trang giá dùng Basic và Pro, trong khi trang giới hạn cloud gọi cùng các gói đó là Starter và Professional. Hãy xác nhận gói bạn đang mua tại bước thanh toán thay vì dựa vào tên.

AnythingLLM Cloud cũng là phiên bản có những giới hạn chức năng nghiêm ngặt nhất, và các giới hạn này không thể hiện rõ từ mức giá. Trang đó nêu rằng cloud lưu trữ không đi kèm LLM tích hợp, việc tải lên một tài liệu lớn — lớn về số từ, không phải kích thước tệp — có thể làm CPU quá tải, khiến tiến trình kết thúc và tạo lỗi 502, agent tùy chỉnh không được hỗ trợ và MCP không được hỗ trợ. Nếu MCP hoặc agent tùy chỉnh là lý do bạn đánh giá AnythingLLM, gói lưu trữ này là phiên bản không phù hợp bất kể ngân sách.

Chi phí RAG, từng dòng một

Giả định phổ biến là một hệ thống trò chuyện với tài liệu tính phí riêng cho suy luận, embedding, reranking và lưu trữ. Các thành phần đó đều có thể được cấu hình riêng trong cả hai sản phẩm, nhưng theo mặc định chỉ một thành phần được tính phí riêng: cả hai đều mặc định dùng embedder MiniLM cục bộ và store cục bộ, đồng thời không gửi reranking đến API trừ khi bạn trỏ chúng đến một API.

Hai hệ quả. Nếu bạn đang dự trù một khoản embedding, hãy xóa khoản đó cho đến khi bạn chủ động bật một provider. Kunavo không cung cấp model embedding, cũng không cung cấp model chuyển văn bản thành giọng nói hoặc giọng nói thành văn bản; catalog của Kunavo chỉ liệt kê các model trò chuyện, hình ảnh, video và âm nhạc, vì vậy hiện tại không thể trỏ embedder, provider phiên âm hoặc provider giọng nói của một trong hai sản phẩm đến Kunavo — hãy giữ mặc định cục bộ. Nếu bạn chuyển embedding sang provider bên ngoài trong Open WebUI, tài liệu tham chiếu của chính sản phẩm lưu ý rằng RAG_EMBEDDING_BATCH_SIZE mặc định là 1, tức một yêu cầu cho mỗi chunk, khiến việc nhập lượng lớn dữ liệu chậm trước khi trở nên tốn kém. Cùng trang đó cảnh báo rằng store Chroma mặc định sử dụng client SQLite không an toàn khi chạy trên nhiều worker hoặc replica — đây là quyết định về khả năng mở rộng, không phải chi phí, nhưng vẫn thuộc cùng dự án. Để biết thiết kế pipeline, hãy xem hướng dẫn triển khai RAG của chúng tôi.

Trỏ một trong hai sản phẩm đến cùng một endpoint

Cả hai đều chấp nhận base URL tương thích với OpenAI và một khóa, đồng thời hai cấu trúc khác nhau nhiều hơn khái niệm nền tảng.

# AnythingLLM — LLM Preference -> provider "Generic OpenAI"
Base URL              https://api.kunavo.com/v1   # the /v1 root, handed verbatim to the OpenAI SDK
API Key               sk-kn-...
Model context window  <your model's context window>   # defaults to 4096 if left blank
Max Tokens            4096                        # defaults to 1024 if left blank
Selected Model        claude-sonnet-5

# …or as environment variables on the Docker build:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY=sk-kn-...
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=<your model's context window>   # falls back to 4096

# Open WebUI — Settings -> Admin -> Connections -> Manage OpenAI API Connections -> Add
URL                   https://api.kunavo.com/v1
API Key               sk-kn-...

# …or at container start:
docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL=https://api.kunavo.com/v1 \
  -e OPENAI_API_KEY=sk-kn-... \
  -v open-webui:/app/backend/data \
  --name open-webui ghcr.io/open-webui/open-webui:main

Bốn chi tiết quyết định việc này có hoạt động ngay lần đầu hay không. Hậu tố URL: .env.example của AnythingLLM ghi base path với /v1, còn mã nguồn provider quyết định phần còn lại: giá trị được truyền nguyên vẹn vào OpenAI SDK dưới dạng baseURL, vì vậy SDK sẽ nối route riêng của nó vào bất cứ thứ gì bạn đã nhập. Hãy dùng root /v1. Cảnh báo của provider: AnythingLLM gắn nhãn kết nối này là provider dành cho nhà phát triển và cảnh báo rằng kết nối “may not function as intended if you input any configuration setting incorrectly” — dẫn đến chi tiết thứ ba, các giá trị mặc định gây lỗi. Trong mã nguồn provider được liên kết ở trên, max tokens mặc định là 1024 và cửa sổ prompt mặc định là 4096 khi các biến môi trường tương ứng không được đặt; câu trả lời bị cắt do các giá trị mặc định này trông hoàn toàn giống lỗi gateway. Thứ tư, khám phá model là tùy chọn trong cả hai sản phẩm. Provider Generic OpenAI của AnythingLLM không xác thực trước model id — mã nguồn được liên kết ở trên bỏ qua bước kiểm tra vì, theo chính nội dung trong tệp, nó không biết model có hợp lệ hay không. Đây là hành vi của provider này, không phải nhận định về các provider có tên của AnythingLLM. Về phần Open WebUI, sản phẩm ghi rõ rằng provider không triển khai /models sẽ không vượt qua xác minh kết nối, rằng điều này “does not mean the provider is incompatible: chat completions will still work”, và rằng sau đó bạn nên tự thêm tên model vào allowlist Model IDs.

Cùng trang đó công bố rõ hợp đồng endpoint: /v1/chat/completions là route bắt buộc, còn /v1/models, /v1/embeddings, /v1/audio/speech, /v1/audio/transcriptions và /v1/images/generations là tùy chọn, mỗi route mở khóa một tính năng. Endpoint cụ thể trả lời được bao nhiêu trong năm route tùy chọn là việc của chính endpoint đó, và câu trả lời ở đây rất cụ thể: Kunavo không cung cấp model embedding, cũng không cung cấp text-to-speech hoặc speech-to-text, vì vậy các mục RAG, TTS và STT trong danh sách đó vẫn sử dụng cấu hình hiện tại của bạn. Trang này cũng nêu rằng Open WebUI “not implement provider-specific, non-standard APIs in the core” và các provider như vậy nên được kết nối qua proxy middleware hoặc một trong các pipe function của sản phẩm. AnythingLLM không công bố hợp đồng tương đương, nhưng .env.example và mã nguồn provider cung cấp hai lối thoát hữu ích: GENERIC_OPEN_AI_CUSTOM_HEADERS cho các gateway cần xác thực bổ sung và GENERIC_OPENAI_STREAMING_DISABLED để tắt streaming khi event stream của provider hoạt động không đúng.

Một bẫy triển khai chỉ có ở Open WebUI. Tính năng Direct Connections cho phép người dùng thông thường thêm base URL và khóa riêng sau khi quản trị viên bật tính năng này, nhưng trình duyệt giao tiếp trực tiếp với provider API, vì vậy provider đó phải cho phép các yêu cầu cross-origin từ domain Open WebUI của bạn — trang này lưu ý rằng các provider nghiêm ngặt có thể chặn yêu cầu trực tiếp từ trình duyệt vì lý do CORS. Đây là thuộc tính của API bạn chọn, không phải của Open WebUI, và đáng được kiểm thử trước khi bạn hứa cung cấp tính năng này cho một nhóm. Một quy tắc hostname khác cũng đáng biết nếu bạn đến đây vì Claude: trang Anthropic của Open WebUI cho biết sản phẩm phát hiện mọi URL chứa api.anthropic.com và áp dụng cách xử lý đặc biệt cho danh sách model và chuyển tiếp /api/v1/messages của host đó; mọi hostname khác, kể cả gateway, đều là kết nối OpenAI-compatible thông thường. Để biết “compatible” bao quát và không bao quát điều gì nói chung, hãy xem hướng dẫn API tương thích với OpenAI.

Chi phí trò chuyện với tài liệu trong một tháng

Vì phần mềm miễn phí ở cả hai sản phẩm, token model là biến số chi phí. Các lượt truy xuất tăng cường thiên về token đầu vào: mỗi câu hỏi mang theo các chunk đã truy xuất, system prompt và một phần lịch sử. Giả sử 200 lượt trong một tháng, 6.000 token đầu vào và 500 token đầu ra cho mỗi lượt — tổng cộng 1,2 triệu token đầu vào và 100.000 token đầu ra.

Đây là phép tính token dựa trên các giả định ở trên và mức giá hiện tại trong catalog Kunavo — một ước tính minh họa, không phải khối lượng công việc được đo thực tế và không phải mức trần hóa đơn của bạn. Số lượng chunk, độ dài lịch sử và cách retry của chính bạn có ảnh hưởng lớn hơn lựa chọn model. Cũng lưu ý rằng mức giá niêm yết rẻ nhất và chi phí thấp nhất để hoàn thành một tác vụ là hai nhận định khác nhau: một model yếu hơn cần ba lần thử cho một câu hỏi truy xuất khó có thể tốn nhiều hơn model trả lời đúng ngay lần đầu. Mức tiền trong catalog Kunavo là mức sàn thanh toán — khi upstream báo phí, hóa đơn là giá trị cao hơn giữa chi phí catalog và chi phí upstream cộng markup áp dụng — và khoản nạp tối thiểu là $10 tín dụng trả trước, không phải gói thuê bao. Phí bộ nhớ đệm và mọi công cụ bên ngoài nằm ngoài ví dụ này; xem chi tiết thanh toán.

Đa người dùng, quyền và dòng giấy phép

Đây là điểm khác biệt lớn nhất giữa hai sản phẩm, và không nằm ở số lượng tính năng — mà ở bản build bạn đang chạy. Phần tổng quan desktop của AnythingLLM gọi Desktop là ứng dụng “single-player” và liệt kê hỗ trợ đa người dùng, quản lý người dùng, quản lý quyền truy cập workspace, bảo vệ bằng mật khẩu, gắn thương hiệu riêng, widget trò chuyện có thể nhúng và giao diện truy cập qua trình duyệt là chỉ dành cho Docker. Bảng đánh dấu hai hàng theo hướng ngược lại, chỉ dành cho Desktop: cài đặt một lần nhấp và provider LLM tích hợp sẵn. Vì vậy, AnythingLLM dành cho nhóm đồng nghĩa với bản Docker, và việc chuyển sang chế độ đa người dùng là không thể đảo ngược.

Open WebUI mặc định hỗ trợ nhiều người dùng ngay từ đầu. Ba vai trò — Admin, User và Pending cùng các nhóm quyền và kiểm soát truy cập theo từng model không bị giới hạn cấp phép ở bất kỳ đâu trong tài liệu RBAC. Thành phần bị giới hạn là thương hiệu: khi vượt quá 50 người dùng trong khoảng thời gian 30 ngày, bạn phải giữ tên và dấu hiệu Open WebUI hiển thị trừ khi có giấy phép doanh nghiệp; còn Terminals — cấp một workspace cho mỗi người dùng cùng các tệp và tiến trình riêng — nêu rõ rằng tính năng này yêu cầu giấy phép doanh nghiệp để sử dụng trong môi trường production. Nếu yêu cầu của bạn là một trợ lý nội bộ gắn thương hiệu riêng cho một tổ chức lớn, điều khoản đó — không phải một tính năng — là sự thật quyết định, và tính năng gắn thương hiệu riêng của AnythingLLM Docker là phương án thay thế để so sánh chi phí với báo giá doanh nghiệp.

Trạng thái hiện tại của cả hai dự án vào ngày kiểm tra, theo GitHub API: AnythingLLM được cấp phép MIT, chưa bị lưu trữ, bản phát hành mới nhất v1.16.1 được công bố ngày 27 tháng 8 năm 2026; Open WebUI chưa bị lưu trữ, bản phát hành mới nhất v0.11.3 được công bố ngày 31 tháng 8 năm 2026, với giấy phép được báo cáo là NOASSERTION vì đây là giấy phép tùy chỉnh thay vì giấy phép OSS tiêu chuẩn. Dựa trên hai tín hiệu đó — có bản phát hành trong tháng vừa qua và repository chưa bị lưu trữ — không dự án nào đang bị bỏ không.

Gateway phù hợp ở đâu

Không sản phẩm nào bán tính năng suy luận cho bạn, vì vậy cả hai đều cần một endpoint model và đều có thể trỏ đến cùng một endpoint — khiến việc thử song song trở nên rẻ: cài đặt từng sản phẩm, cung cấp cho chúng một base URL và một khóa, rồi so sánh trên các model giống hệt nhau thay vì dựa vào bảng so sánh. Kunavo cung cấp bề mặt OpenAI-compatible mà cả hai đều sử dụng. Một trong hai sản phẩm có hướng dẫn thiết lập được công bố, và đó là hướng dẫn bằng văn bản chứ không phải bài kiểm thử khả năng tương thích do chúng tôi thực hiện: kết nối Open WebUI với Kunavo, sau đó tạo tài khoản Kunavo khi bạn sẵn sàng đặt một khóa phía sau. Với AnythingLLM, hãy sử dụng ánh xạ trường Generic OpenAI ở trên. Nếu bạn vẫn đang lập danh sách các giao diện, LibreChat vs Open WebUI đề cập đến ứng viên phổ biến thứ ba.

Câu hỏi thường gặp

Giá của nhà cung cấp, điều khoản giấy phép, phiên bản phát hành, giá trị cấu hình mặc định và các trích dẫn tài liệu được kiểm tra ngày 18 tháng 9 năm 2026 dựa trên anythingllm.com, docs.anythingllm.com, docs.openwebui.com, repository của từng dự án và GitHub API; tất cả đều được liên kết ở trên. Mức giá token của Kunavo được đọc từ catalog trực tiếp; các con số theo tháng là ước tính minh họa dựa trên các giả định token đã nêu. Kunavo chưa kiểm thử runtime với client nào.