返回指南
比較·2026年9月18日·更新於 2026年9月24日·閱讀約 8 分鐘

AnythingLLM 與 Open WebUI:RAG、部署與模型成本

兩者都可免費自行託管,也都能使用一個相容於 OpenAI 的端點。真正的決定因素是部署模式、授權界線,以及實際會對哪些管線階段計費。

最後審核於 。

當你想要一個已組裝完成的工作區形態 RAG 產品——文件、本機嵌入器、本機向量儲存區與代理程式都在同一次安裝中——請選擇 AnythingLLM。當你想要具備免費角色型存取控制的多使用者聊天平台,而且本來就會自備模型端點時,請選擇 Open WebUI。 兩者都可免費自行託管,也都接受第三方 OpenAI 相容的基底 URL 加金鑰;在兩種情況下,持續性帳單都是託管費加模型 tokens,而不是軟體費。

本頁從兩個方向回答這項比較;沒有獨立的反向順序頁面,因為「AnythingLLM vs Open WebUI」與「Open WebUI vs AnythingLLM」是同一項決策。下文所有陳述都引自各專案自己的網站、文件或儲存庫,並於 2026 年 9 月 18 日檢查。Kunavo 未對任一用戶端進行執行期測試,因此本文沒有基準測試、延遲數字或檢索品質判定。

比較前先說明一項命名事項:Open WebUI 原名為 Ollama WebUI,後來在 Ollama 團隊表示希望避免使用者將該專案誤認為 Ollama 官方商標項目後改名;相關內容見專案自己的公開命名討論,其團隊頁面表示專案由創作者兼創辦人 Tim J. Baek 領導。仍保留舊標語的分支不是另一個仍在運作的競爭者。text-generation-webui、Stable Diffusion web UI 以及 Mozilla AI 的 any-llm 程式庫也都不是。

誰應該選哪一個

您的情況選擇原因
一個人、一台筆記型電腦,以及不應離開該裝置的文件AnythingLLM Desktop單次安裝,內建 LLM 供應商——其功能表標示為僅限 Desktop 的兩列之一,另一列是 one-click install——另有本機嵌入器與本機向量儲存區;無需託管
需要帳戶、角色與每項資源存取權限的團隊兩者皆可,但請閱讀方案Open WebUI 提供 Admin / User / Pending 角色、群組與每個模型的存取控制,沒有授權限制;AnythingLLM 只有在 Docker 版本中才提供多使用者功能
你想要一個可供多人同時開啟的瀏覽器介面Open WebUI,或 Docker 上的 AnythingLLMAnythingLLM Desktop 完全沒有可透過瀏覽器存取的 UI,而其網路探索切換開關公開的是 API,而非介面
你希望有人替你組裝好檢索管線AnythingLLM工作區、文件處理、代理程式與由你定義規則驅動的 model router 會一併提供;在你進行任何設定前,檢索即可透過隨附的本機嵌入器與儲存區運作
你想自行塑造檢索的每個部分Open WebUI嵌入引擎、混合 BM25 搜尋、外部重排序與向量儲存區,全都由你設定的環境變數控制
你想將介面白標化Docker 上的 AnythingLLM白標化是文件明確說明的 Docker 功能;Open WebUI 對超過 50 位使用者門檻後的品牌變更設有限制
你完全不想執行伺服器AnythingLLM Cloud這裡唯一的第一方託管選項——Open WebUI 自身的部署選項全部都是自行託管——但它具有下方列出的實際功能限制

兩者之間的遷移在一個方向上比想像中便宜,而在另一個方向則不是。聊天連線具可攜性:相同的基底 URL 與金鑰可在幾分鐘內移轉。你的文件則不可攜——每個產品都有自己的工作區或知識模型,以及自己的向量儲存區,因此切換意味著重新匯入語料庫並重新建立嵌入。承諾使用前有兩扇只能單向通過的門值得注意:AnythingLLM 的文件表示,一旦執行個體進入多使用者模式,就無法恢復為單一使用者模式;而 AnythingLLM Desktop 被描述為單人應用程式,因此從桌面試用成長為團隊部署時,必須移轉至 Docker,而不是升級。

各自的費用

版本公布價格價格包含與不包含的內容
AnythingLLM Desktop免費單一使用者;不支援多使用者、瀏覽器 UI 或白標
AnythingLLM 自行託管(Docker)免費,採 MIT 授權解鎖多使用者、使用者管理、白標與可嵌入聊天小工具的版本
AnythingLLM Cloud——Basic每月 50 美元私人實例與自訂子網域;該頁面本身寫著「只需準備 LLM API 金鑰」,因此不包含推論。未公布席位數或使用配額
AnythingLLM Cloud——Pro每月 99 美元標榜「更高效能與優先資源」,支援回應目標為 72 小時;雲端限制頁面表示 Professional 方案的運算資源多於 Starter。再次強調,未公布席位數或配額
AnythingLLM Cloud——Enterprise聯絡我們 — 未公布價格內部部署、自訂整合、SSO 與 RBAC
AnythingLLM Desktop Pro任何公開頁面均未公布提高三項裝置端 Magic 功能的每日上限,並移除文件浮水印;不限制 RAG、代理程式或模型連線
Open WebUI — 標準自行託管使用免費模型連線、RAG 與 RBAC 文件均無授權限制;在 30 天期間超過 50 位使用者時,品牌標示必須保持完整
Open WebUI — 企業授權僅提供報價 — 未公布價格或方案層級白標、重新品牌化與 Terminals 功能;其頁面明確表示,正式環境使用需要企業授權;提供給已註冊的組織,而非個人

來源,均於 2026 年 9 月 18 日查核:AnythingLLM 定價、Desktop Pro 概覽、Open WebUI 企業授權及其授權頁面。三點注意事項。第一,「AnythingLLM Pro」指的是兩個無關的產品——99 美元的託管 Cloud 方案,以及 Desktop Pro 授權金鑰——因此未說明是哪一個產品的報價沒有意義。第二,我們能存取的任何地方都未公布 Desktop Pro 價格:唯一的結帳 URL 在查核日期拒絕非瀏覽器請求,因此請將該金額視為未驗證,並以結帳頁面顯示為準。第三,供應商自己的頁面對方案名稱說法不一致——定價頁面稱為 Basic 與 Pro,而雲端限制頁面則將相同方案稱為 Starter 與 Professional。請在結帳時確認購買的方案,而不要僅依名稱判斷。

AnythingLLM Cloud 也是功能限制最嚴格的版本,而這些限制無法從價格中明顯看出。該頁面指出,託管雲端不附帶內建 LLM;上傳大型文件——這裡的大型是指文字量,而非檔案大小——可能使 CPU 不堪負荷、導致程序結束並產生 502;不支援自訂代理程式,也不支援 MCP。如果你評估 AnythingLLM 的原因是 MCP 或自訂代理程式,無論預算多少,託管方案都不是正確版本。

逐行拆解 RAG 費用

常見假設是,文件聊天設定會分別對推論、嵌入、重新排序與儲存計費。這些元件在兩項產品中都可分別設定,但開箱即用時,只有其中一項會被分別計費:兩者預設都使用本機 MiniLM 嵌入器與本機儲存,而且除非你將重新排序指向 API,否則兩者都不會將重新排序傳送至 API。

管線階段AnythingLLM 預設值Open WebUI 預設值由 API 計費?
聊天推論你設定的供應商你設定的連線是 — 這就是費用
嵌入內建本機嵌入器——其 原生引擎 將 Xenova/all-MiniLM-L6-v2 設為預設模型RAG_EMBEDDING_ENGINE 為空值,參考資料將其稱為 Default(SentenceTransformers),並將 sentence-transformers/all-MiniLM-L6-v2 設為預設模型不會,除非你將引擎切換至供應商
重新排序內建本機交叉編碼器——其 原生重新排序器會在程序內載入 Xenova/ms-marco-MiniLM-L-6-v2,但只有在使用重新排序時才會載入引擎為空值,參考資料稱其為本機 Sentence-Transformer CrossEncoder;開箱即用時未設定重新排序模型不會。AnythingLLM 的內建重新排序器在程序內執行;在 Open WebUI 中,只有在 RAG_RERANKING_ENGINE=external 時才會連線至 API
向量儲存LanceDB,位於實例上,且不需要任何設定VECTOR_DB 預設為 chroma;在 slim 映像檔上則為 pgvector不會——是你的磁碟,而非 API
託管你的機器、Docker 主機,或每月 50 美元起的 Cloud你的機器或 Docker 主機不是 API 費用,但確實要花錢

兩項後果。如果你原本編列了嵌入費用,請先刪除它,直到你有意啟用嵌入為止。Kunavo 不提供嵌入模型,也不提供文字轉語音或語音轉文字模型;其目錄僅列出聊天、影像、影片與音樂模型,因此目前無法將任一產品的嵌入器、轉錄供應商或語音供應商指向 Kunavo——請保留本機預設值。如果你確實在 Open WebUI 中將嵌入移至外部供應商,其參考資料指出,RAG_EMBEDDING_BATCH_SIZE 預設為 1,即每個區塊發出一個請求;這會先讓大型匯入變慢,之後才使其變昂貴。同一頁面警告,預設的 Chroma 儲存使用 SQLite 用戶端,在多個工作程序或複本之間並不安全——這是擴展決策,而非成本決策,但同樣會影響此專案。關於管線本身的設計,請參閱我們的 RAG 實作指南。

將任一者指向同一個端點

兩者都接受 OpenAI 相容的基礎 URL 與金鑰,而兩者的具體格式差異比概念本身更大。

同一個端點,呈現為每個產品自己的形態
# AnythingLLM — LLM Preference -> provider "Generic OpenAI"
Base URL              https://api.kunavo.com/v1   # the /v1 root, handed verbatim to the OpenAI SDK
API Key               sk-kn-...
Model context window  <your model's context window>   # defaults to 4096 if left blank
Max Tokens            4096                        # defaults to 1024 if left blank
Selected Model        claude-sonnet-5

# …or as environment variables on the Docker build:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY=sk-kn-...
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=<your model's context window>   # falls back to 4096

# Open WebUI — Settings -> Admin -> Connections -> Manage OpenAI API Connections -> Add
URL                   https://api.kunavo.com/v1
API Key               sk-kn-...

# …or at container start:
docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL=https://api.kunavo.com/v1 \
  -e OPENAI_API_KEY=sk-kn-... \
  -v open-webui:/app/backend/data \
  --name open-webui ghcr.io/open-webui/open-webui:main

四項細節決定這是否能在第一次嘗試時成功。第一是URL 後綴:AnythingLLM 自己的 .env.example 以 /v1 寫入基礎路徑,而供應商原始碼則說明其餘部分:該值會原封不動地以 baseURL 傳給 OpenAI SDK,因此 SDK 會將自己的路由附加到你輸入的內容之後。請使用 /v1 根路徑。第二是供應商警告:AnythingLLM 將此連線標示為面向開發人員的供應商,並提醒「如果輸入任何錯誤的設定,此連線可能無法如預期運作」——這也引出第三項細節,即容易造成問題的預設值。在上方連結的供應商原始碼中,當相應的環境變數未設定時,最大 token 數會回退至 1024,提示視窗則回退至 4096;這些預設值造成的截斷回答,看起來與閘道故障完全相同。第四,兩者的模型探索都是選用功能。AnythingLLM 的 Generic OpenAI 供應商不會預先驗證模型 ID——上方連結的原始碼會略過檢查,因為用該檔案自己的話說,它不知道模型是否有效。這是此供應商的行為,不代表 AnythingLLM 的具名供應商。至於 Open WebUI,文件說明未實作 /models 的供應商將無法通過連線驗證,這「不代表供應商不相容:聊天完成仍會運作」,接著你應手動將模型名稱加入 Model IDs 允許清單。

同一頁面清楚公布了端點契約:/v1/chat/completions 是必要路由,而 /v1/models、/v1/embeddings、/v1/audio/speech、/v1/audio/transcriptions 與 /v1/images/generations 都是選用路由,且每一個都會解鎖一項功能。特定端點會回應這五個選用路由中的哪些,是該端點自身的業務;此處的答案很明確:Kunavo 不提供嵌入模型,也不提供文字轉語音或語音轉文字,因此清單中的 RAG、TTS 與 STT 項目仍應使用你原本為它們設定的服務。該頁面也指出,Open WebUI「不在核心實作供應商特定的非標準 API」,這類供應商應透過中介軟體代理或其 pipe 函式進行橋接。AnythingLLM 未公布等效契約,但其.env.example與供應商原始碼提供兩個實用的替代方案:對於需要額外驗證的閘道,可使用 GENERIC_OPEN_AI_CUSTOM_HEADERS;當供應商的事件串流行為異常時,可使用 GENERIC_OPENAI_STREAMING_DISABLED 關閉串流。

有一個部署陷阱是 Open WebUI 特有的。其Direct Connections 功能允許一般使用者在管理員啟用後自行加入基礎 URL 與金鑰,但瀏覽器會直接與 API 供應商通訊,因此該供應商必須允許來自 Open WebUI 網域的跨來源請求——頁面指出,嚴格的供應商可能會基於 CORS 阻擋直接的瀏覽器請求。這是你所選 API 的特性,而不是 Open WebUI 的特性;在向團隊承諾此功能前,值得先進行測試。如果你是因為 Claude 而來,還有一項主機名稱規則值得了解:Open WebUI 的Anthropic 頁面表示,它會偵測任何包含 api.anthropic.com 的 URL,並為該主機提供特殊的模型清單與 /api/v1/messages 直通處理;其他所有主機名稱,包括閘道,都是一般的 OpenAI 相容連線。關於「相容」一般涵蓋與不涵蓋的內容,請參閱OpenAI 相容 API 指南。

一個月的文件聊天成本

由於兩項產品的軟體都是免費的,模型 token 才是變動成本。檢索增強回合偏重輸入:每個問題都會攜帶檢索到的區塊、系統提示與部分歷史紀錄。假設一個月有 200 個回合,每回合 6,000 個輸入 token 與 500 個輸出 token——即 120 萬個輸入 token 與 100,000 個輸出 token。

模型Kunavo 費率,每 1M 輸入/輸出該月份的估算
Claude Sonnet 5$1.40 / $7.00$2.38
Claude Haiku 4.5$0.70 / $3.50$1.19

這是根據上述假設,依目前的Kunavo 目錄費率進行的 token 計算——屬於說明性估算,不是實測工作負載,也不是你的帳單上限。你自己的區塊數量、歷史紀錄長度與重試行為,比模型選擇更能影響結果。另請注意,列出的最低費率與完成任務的最低成本是不同的說法:在困難的檢索問題上需要嘗試三次的較弱模型,成本可能高於一次就能回答的模型。Kunavo 的目錄金額是計費底線——當上游回報其費用時,帳單金額取目錄成本與套用適用加價後的上游成本兩者中較高者——而最低加值額為10 美元的預付額度,不是訂閱。快取費用與任何外部工具均不包含在此範例中;請參閱計費詳細資訊。

多使用者、權限與授權界線

這是兩項產品差異最大的地方,而差異不在功能數量——而在於你執行的是哪個版本。AnythingLLM 的桌面版概覽將 Desktop 稱為「單人」應用程式,並將多使用者支援、使用者管理、工作區存取管理、密碼保護、白標、可嵌入聊天小工具與可透過瀏覽器存取的 UI 列為僅限 Docker。表格中另有兩列標示相反,僅限 Desktop:一鍵安裝與內建 LLM 供應商。因此,團隊使用 AnythingLLM 意味著採用 Docker 版本,而將其切換至多使用者模式是不可逆的。

Open WebUI 從一開始就以多使用者為前提。其三種角色——Admin、User 與 Pending——加上權限群組與每個模型的存取控制,在 RBAC 文件中任何地方都沒有授權限制。受到限制的是品牌:在 30 天期間超過 50 位使用者時,除非持有企業授權,否則必須保留 Open WebUI 名稱與標誌的可見性;此外,Terminals——為每位使用者配置一個工作區,並分隔檔案與程序——明確表示正式環境使用需要企業授權。如果你的需求是為大型組織提供白標的內部助理,那項條款——而非某項功能——就是決定性事實,而 AnythingLLM 的 Docker 白標功能則是可與企業報價比較的替代方案。

根據 GitHub API,截至查核日期兩個專案的目前狀態:AnythingLLM 採 MIT 授權、未封存,最新版本 v1.16.1 於 2026 年 8 月 27 日發布;Open WebUI 未封存,最新版本 v0.11.3 於 2026 年 8 月 31 日發布,其授權因為是自訂授權而非標準 OSS 授權,回報為 NOASSERTION。根據這兩項訊號——最近一個月內發布版本且儲存庫未封存——兩個專案都沒有停止維護。

閘道適用的位置

兩項產品都不會向你銷售推論服務,因此兩者都需要模型端點,而且都可以指向同一個端點——這使並排試用的成本很低:分別安裝兩者,提供一個基礎 URL 與一個金鑰,並在相同模型上比較,而不是依比較表判斷。Kunavo 提供兩者都支援的 OpenAI 相容介面。其中一項產品有已發布的設定指南,而那是書面操作說明,不是我們這邊進行的相容性測試:先將 Open WebUI 連線至 Kunavo,準備好將金鑰置於其中後,再建立 Kunavo 帳戶。對於 AnythingLLM,請使用上方的 Generic OpenAI 欄位對應。如果你仍在篩選介面,LibreChat 與 Open WebUI 的比較涵蓋第三個常見候選方案。

常見問題

AnythingLLM 與 Open WebUI 有什麼差異?

AnythingLLM 是 Mintplex Labs 推出的工作區優先 RAG 產品:文件存放於工作區,而桌面版本會以單一應用程式安裝,內建 LLM 供應商、本機嵌入器與本機向量儲存區,並已連接妥當——桌面概覽自身的功能表將 Built-in LLM provider 標示為僅限 Desktop。Open WebUI 是聊天平台,其文件將 Tim J. Baek 列為創作者與創辦人,並假設你會自備模型端點;其文件以多使用者功能為主,包括 Admin、User 與 Pending 角色、權限群組及每個模型的存取控制,以及功能包含 filters 和 pipes 的外掛系統,另有工具。兩者都可免費自行託管,也都接受 OpenAI 相容的基底 URL 與金鑰;實際區別在於,AnythingLLM 出貨時已組裝更多檢索管線,而 Open WebUI 出貨時已組裝更多團隊部署功能。

Open WebUI 免費嗎?它是開放原始碼嗎?

執行它是免費的。企業頁面的授權表將 Standard Use——「在原始品牌完整不變的情況下供內部使用」——列為 Free,而授權頁面表示 Open WebUI「仍然免費且採寬鬆授權」。若不加限定地將目前版本稱為開放原始碼並不準確:專案自己的授權頁面表示,自 v0.6.6(2025 年 4 月 19 日)起,不得修改、移除或掩蓋 Open WebUI 品牌,除非符合三項例外之一(30 天內有 50 位或更少使用者、取得書面許可的實質貢獻者,或企業授權),並表示這使其不符合 OSI 核准資格。到 v0.6.5(含)為止的所有版本仍採 BSD-3。GitHub 將授權回報為 NOASSERTION 表示它是自訂授權,不代表專有,也不代表未授權。

AnythingLLM 免費嗎?

桌面應用程式可免費下載,使用 Docker 自行託管也免費;儲存庫採 MIT 授權。有兩個不同的付費產品共用這個名稱。AnythingLLM Cloud 是託管服務,2026 年 9 月 18 日檢查時列出的價格為 Basic 每月 $50、Pro 每月 $99,Enterprise 則為 Contact Us。AnythingLLM Desktop Pro 是適用於桌面 v1.15.0 及更高版本的授權金鑰,可提高三項裝置端 Magic 功能的每日額度並移除文件浮水印;文件表示這些功能可選用、始終提供免費層級,且不是使用 AnythingLLM 的必要條件。兩個付費產品都不包含模型推論。

哪一個更適合 RAG?

它們回答的是不同形式的問題;由於本指南未對任一產品進行執行期測試,本文不提供基準測試。AnythingLLM 以工作區組織檢索,預設使用本機 all-MiniLM-L6-v2 嵌入器與本機 LanceDB 儲存區——其 LanceDB 頁面表示文件文字與嵌入內容絕不會離開應用程式,且不需要任何設定——因此在設定供應商前,文件聊天就能運作。Open WebUI 同樣預設使用本機 SentenceTransformers 嵌入器,其重排序引擎預設為空;參考文件將其描述為本機 Sentence-Transformer CrossEncoder——但開箱即用時未設定重排序模型,因此無論如何都不會向 API 傳送資料。它還提供混合 BM25 加向量檢索,但控制旗標預設為 false,並將更多管線細節公開為環境變數,包括外部重排序器;參考文件提醒,必須提供完整 URL,因為不會在其後附加路徑。請使用自己的文件評估它們;檢索品質取決於你的語料庫,而不是比較表。

一個 API 金鑰可以同時驅動兩個產品嗎?

聊天功能可以。兩者都接受 OpenAI 相容的基底 URL 加金鑰,也都可使用同一個端點,因此你可以在評估期間並行執行兩者,並以相同模型進行比較。但金鑰不會自動套用到其他介面:在兩個產品中,嵌入器、轉錄與圖像生成都是各自獨立的供應商,擁有自己的基底 URL 與憑證;因此將聊天指向閘道,不會改變檢索目前使用的設定。

兩者是否原生支援透過第三方端點使用 Claude?

不是標題所暗示的那種支援。AnythingLLM 有 Anthropic 供應商,但其伺服器自身的 .env.example 為此記錄的三個變數是 API 金鑰、模型偏好與快取控制設定,沒有基底路徑;因此 Anthropic 相容閘道必須透過 OpenAI 相容路徑使用。Open WebUI 的 Anthropic 處理受主機名稱限制:其文件表示,Open WebUI 會偵測任何包含 api.anthropic.com 的 URL,並將該主機的原生模型清單重塑為 OpenAI 格式;對 Open WebUI 自身 /api/v1/messages 端點的請求,則會在聊天管線之外原生轉送至 /v1/messages,以連線至該主機。其他任何主機名稱都會被視為一般 OpenAI 相容連線。同一頁指向 pipe function 或 LiteLLM 等 proxy,以支援 Claude 原生功能——這是你要建立的橋接層,而不是切換一個設定即可完成。

每月執行其中任一產品的成本是多少?

兩種情況下軟體都免費,因此帳單由託管費加模型 tokens 組成。開箱即用時,唯一的 API 項目是聊天,因為兩個產品預設都在本機嵌入,且除非你將重排序指向 API,否則都不會將重排序傳送至 API。以 Kunavo 目錄價格進行說明性的 token 算術——200 次檢索增強回合,每次包含 6,000 個輸入 tokens 與 500 個輸出 tokens——每月聊天費用在中階模型上為數美元,在快速模型上遠低於一美元。這是根據所述 token 假設得出的估算,不是測量得到的工作成本,也不是上限;Kunavo 最低加值金額是 $10 預付額度。

供應商價格、授權條款、發布版本、預設設定值與文件引述均已於 2026 年 9 月 18 日針對 anythingllm.com、docs.anythingllm.com、docs.openwebui.com、各專案的儲存庫與 GitHub API 進行查核;每一項都已在上方連結。Kunavo token 費率取自即時目錄;每月數字是根據所述 token 假設得出的說明性估算。Kunavo 未對任一用戶端進行執行階段測試。