合適的 AnythingLLM 替代方案取決於你要離開其三種版本中的哪一種——Desktop、自行託管的 Docker，或 Cloud——因為它們失效的原因不同。 Open WebUI 與 LibreChat 是多使用者文件聊天最接近的同類替代方案；如果問題在於檢索品質，RAGFlow 是應選的方案；Onyx 適合由連接器驅動的公司搜尋；LM Studio 與 Jan 適合只想要本機聊天視窗的使用者。
品牌清單省略的，是遷移的成本。AnythingLLM 只會匯出聊天記錄，除此之外什麼都沒有；這裡沒有任何替代方案記載可匯入這些記錄的匯入工具，而你要離開的工具也沒有陷入困境——Mintplex-Labs/anything-llm 採用 MIT 授權、未封存，預設分支最近一次提交可追溯至 2026 年 9 月 17 日，v1.16.1 於 2026 年 8 月 27 日發布（GitHub API，於 2026 年 9 月 21 日重新查核）。所以你有時間妥善完成這件事。
人們為何離開，以及他們離開的是哪種版本
大多數情況可歸納為四項抱怨，而且每一項都是特定版本的已記錄特性，不是普遍缺陷。
| 抱怨 | 已記錄的內容 | 哪種版本 |
|---|---|---|
| 「我的代理程式無法執行」 | 託管雲端在任何方案層級都不支援自訂代理程式或 MCP；文件會將這些使用者導向 Desktop 或自行託管 | 僅限 Cloud |
| 「我無法與團隊分享」 | 多使用者支援、使用者管理、工作區存取管理、可嵌入小工具、密碼保護、白標，以及可透過瀏覽器存取的 UI 全都標示為僅限 Docker；Desktop 的網路切換選項會將 API 暴露在 0.0.0.0 上，而文件警告其前方沒有帳戶或驗證機制 | Desktop |
| 「大型文件會讓執行個體停止運作」 | 內建的雲端嵌入器「不會阻止你嘗試嵌入 5,000pg 的 PDF，但會讓你的執行個體崩潰」——以字數而非檔案大小衡量 | Cloud |
| 「託管價格不包含模型」 | Basic $50/月、Pro $99/月、Enterprise「聯絡我們」——而 Basic 方案的說明寫著「只要帶來 LLM API 金鑰」，因為託管執行個體不提供內建模型 | Cloud |
於 2026 年 9 月 19 日閱讀雲端限制頁面、桌面版概覽與定價頁面。比較前先注意兩個命名陷阱。AnythingLLM 自己的介面對方案名稱說法不一致——定價頁面稱為 Basic 與 Pro，文件則稱為 Starter 與 Professional，而且沒有任何內容說明兩者的對應關係——因此請確認你的帳戶屬於哪一個方案。此外，「Pro」指的是兩個不相關的產品：每月 $99 的 Cloud Pro，以及 AnythingLLM Desktop Pro，後者是 Desktop v1.15.0 及之後版本使用的授權金鑰。Desktop Pro 頁面說明其功能，但沒有公布價格，而 anythingllm.com/pro 回傳 404，因此你看到附在該名稱上的任何數字都來自其他地方。Cloud Basic 或 Pro 也沒有公布席位數、儲存配額或用量配額。
請注意該清單中沒有列出的內容：模型本身的成本。無論你切換到哪個自行託管工具，這筆帳單都不會消失，因為每個工具都預期你提供金鑰。不過它們並不完全相同——這些產品的檢索預設值不同，而且它們決定每個問題要攜帶多少上下文。
哪個替代方案適合哪種工作
| 替代方案 | 在以下情況選擇它 | 授權與狀態 | 公布價格 |
|---|---|---|---|
| Open WebUI | 你想要 AnythingLLM 的 Docker 體驗——瀏覽器 UI、多位使用者——並希望重新設定最少 | GitHub 回報 NOASSERTION；專案表示 v0.6.6+ 並非 OSI 開源版本。v0.11.3，未封存 | 標準使用且保留品牌時免費；企業授權只能詢價 |
| LibreChat | 你想要多使用者聊天，並且可以接受設定獨立的 RAG 服務 | MIT，ClickHouse 收購後仍維持不變。活躍中；每個版本都標記為預發布版 | 不存在定價頁面（404） |
| Onyx（前稱 Danswer） | 需求是跨公司系統搜尋，而不是與上傳的檔案聊天 | 分開授權：ee 目錄外採用 MIT Expat，目錄內採用企業授權。v4.7.7 | Cloud Business 每位使用者每月 $20，按年計費；Enterprise 採詢價 |
| RAGFlow | 真正的問題在於檢索品質——解析、分塊、引用 | Apache-2.0，v0.27.2，未封存 | 自行託管免費。Cloud：$0、每月 $29（原價 $59，顯示為刪除線）、每月 $129（原價 $259） |
| Dify | 你想建立應用程式與工作流程，而不是聊天視窗 | 修改版 Apache 2.0，另加兩項條件：未經書面授權不得營運多租戶環境，不得移除前端標誌或著作權聲明 | Sandbox 免費；每個工作區每年 $590 與 $1,590，不是按席位計費 |
| LM Studio | 僅限本機桌面版；你從未需要伺服器端 | 閉源，活躍中 | 自 2025 年 7 月 8 日起，個人與工作用途免費 |
| Jan | 本機桌面版，但你希望取得原始碼 | 依 LICENSE 檔案為 Apache 2.0（Menlo Research）；GitHub 的標章顯示 NOASSERTION | 免費 |
| Msty Studio | 你願意為完善程度付費，且不需要存取原始碼 | 其網站未公布任何授權；msty.app 現在重新導向至 msty.ai | 免費方案；Aurum 每位使用者每年 $149；Aurum Lifetime 每位使用者 $349 |
截至 2026 年 9 月 19 日，已對照Open WebUI 的企業頁面、librechat.ai、onyx.app/pricing、ragflow.io、dify.ai/pricing、LM Studio 的授權公告、msty.ai/pricing與 GitHub API，查核價格與儲存庫中繼資料。請注意三點。RAGFlow 的 $29 與 $129 是從 $59 與 $259 以刪除線顯示的促銷價格，未說明結束日期，而且頁面從未定義其一個「credits」可購買什麼。Open WebUI 的品牌條款詳載於其授權頁面與儲存庫 LICENSE，是大多數人忽略的細節：保留品牌不變是免費路徑，而只有在部署於任何連續三十天期間的終端使用者不超過五十人、你持有著作權所有者特定的事前書面許可，或持有企業授權時，才允許移除或修改品牌。此外，Onyx 是一個高度重名的名稱——只有 onyx.app 能提供 Onyx 的價格；不帶網域搜尋時，會得到 macOS 維護工具、印刷 RIP 供應商與其他幾家公司。
四個與舊文章所說不同的專案
替代方案清單的腐朽速度比其中的產品更快。這四個專案至今仍被廣泛推薦，但在了解其目前狀態前不應列入候選名單；所有狀態均截至 2026 年 9 月 19 日查核。
| 專案 | 目前狀態 | 改去哪裡 |
|---|---|---|
| Verba（Weaviate） | 已在 GitHub 封存，BSD-3-Clause，最後推送於 2026 年 6 月 8 日 | 不是目前可用的選項。RAGFlow 涵蓋相同的以檢索為先的領域 |
| Khoj | Khoj Cloud 於 2026 年 4 月 15 日棄用，app.khoj.dev 現在將使用者導向自行託管。AGPL-3.0 儲存庫公開，最後推送於 2026 年 8 月 2 日，最新版本為 2026 年 3 月的 2.0.0-beta.28 | 自行託管是唯一剩餘的路徑；你找到的任何 Khoj 訂閱價格都已過時 |
| GPT4All | 未封存且沒有棄用公告，但最新版本是 2025 年 2 月 25 日的 v3.10.0，預設分支自 2025 年 5 月 27 日後就沒有推送。v3.10.0 安裝程式仍可下載 | LM Studio 或 Jan 適合相同的本機桌面工作。Nomic 目前的平台產品是不同產品線，其價格也不是 GPT4All 的價格 |
| PrivateGPT | 仍然活躍並採用 Apache-2.0（v1.0.1），但定位已重新調整：其 README 稱其為「開源 API 層」，並表示隨附的 /ui 是用於測試與示範的工作台，而 API 才是實際產品 | 適合作為 API 層；不適合作為終端使用者文件聊天應用程式的替代品 |
還有一個需要謹慎看待的項目：Quivr 的儲存庫現在會導向另一個 GitHub 組織，而其 README 描述的是 RAG 核心函式庫，而非終端使用者應用程式。未找到解釋此移轉的具日期公告，因此這是關於重新導向的事實，而非關於收購的事實。
哪些設定會遷移，哪些不會
這是應該決定你的候選清單的成本，而且本頁每個目的地的成本都相同。
會隨你移轉的內容：聊天記錄，且只有四種格式——CSV、JSON、JSONL 和 JSON（Alpaca）——由 AnythingLLM 的 /system/export-chats 端點提供。這就是已發布原始碼中完整的匯出類型清單。
不會隨你移轉的內容：其他所有內容。我搜尋了 AnythingLLM 的文件，查找文件匯出、向量匯出，或有文件記載的備份與還原程序，但都沒有找到。這是缺乏證據，而非不可能的證明——但你不能根據未記載的路徑規劃移轉。工作區、嵌入向量及文件本身都沒有有文件記載的移出路徑。Community Hub 的匯入字串可移轉代理程式技能、系統提示和斜線指令——這三種項目是其文件列出的支援類型——但只能在 AnythingLLM 執行個體之間移轉，而且在自託管安裝中，除非設定 COMMUNITY_HUB_BUNDLE_DOWNLOADS_ENABLED，否則技能匯入會失敗。本頁沒有任何替代方案記載 AnythingLLM 資料的匯入器；我在每個產品自己的文件中檢查的就是這一點。LibreChat 是唯一完全記載對話匯入器的方案，而它列出的來源是 ChatGPT、Claude 和 ChatbotUI v1——不是 AnythingLLM。
因此，移轉意味著重新擷取，而重新擷取有一項硬性前提：你的原始來源檔案必須存在於應用程式之外。實際上：
- 先匯出聊天記錄，趁執行個體仍在運作時進行。這是 AnythingLLM 唯一提供的匯出功能，也是人們實際提出問題的記錄——之後可用來判斷替代方案的回答是否同樣良好。
- 從原始來源所在的位置蒐集文件——共用磁碟機、Wiki、工單系統——不要從 AnythingLLM 內部取得。
- 在解除安裝任何內容之前，先將 Desktop 儲存資料夾複製到冷儲存。文件記載的位置在 macOS 是
/Users/<usr>/Library/Application Support/anythingllm-desktop/storage、Linux 是~/.config/anythingllm-desktop/storage/、Windows 是C:\Users\<usr>\AppData\Roaming\anythingllm-desktop\storage，其中的anythingllm.db是 SQLite 資料庫。請嚴格將此視為備份：文件沒有提供移轉、備份或還原指示，也未在此測試該資料夾是否能移至另一台機器或 Docker。 - 將替代方案與舊方案並行部署，然後重新擷取。接著向兩個執行個體各提出十個你已知答案的問題，再進行比較。這些產品的擷取預設值不同，因此相同的語料庫不保證會產生相同的答案。
- 只要什麼都不做即可回復。持續執行 AnythingLLM，直到步驟 4 通過；AnythingLLM 預設會將向量儲存在執行個體上的 LanceDB 中，因此舊索引位於你自己的磁碟上，而不是位於你已取消的服務中。
將新用戶端指向模型端點
以下七種產品各自會在自己的供應商欄位中接受第三方端點，而且每種產品都有不同的設定門檻。在每種情況下，該欄位都相容於 OpenAI；如果要求，Jan 和 LibreChat 也能使用 Anthropic Messages 格式。LM Studio 和 Msty Studio 刻意未列入此表——本頁未確認兩者任何一個有文件記載的遠端端點路徑。這是重新設定步驟，而事先知道門檻正是讓步驟保持簡短的關鍵。
| 產品 | 端點放在哪裡 | 最容易讓人卡住的門檻 |
|---|---|---|
| AnythingLLM | 供應商「Generic OpenAI」：以 /v1 結尾的基礎 URL、API 金鑰、聊天模型名稱、權杖上下文視窗、最大權杖數 | 其文件將此供應商稱為面向開發人員，並警告除非你知道自己在做什麼，否則不要使用。Anthropic 供應商完全沒有提供基礎 URL 設定，因此 Anthropic 相容閘道必須透過此欄位串接 |
| Open WebUI | 管理員 → 連線 → 管理 OpenAI API 連線：URL 和金鑰 | /models 為選用項目——沒有它，你必須手動將模型 ID 加入允許清單。若「Verify Connection」以 400、401 或 403 失敗，不代表供應商不相容；文件表示聊天完成仍可運作 |
| LibreChat | librechat.yaml 自訂端點：name、apiKey、baseURL、models，具備預設值和擷取旗標 | 選用的 provider: "anthropic" 會將該端點切換至原生 Messages 用戶端——此時不支援 models.fetch，因此必須明確列出 models.default |
| Onyx | 管理員面板 → 設定 → 語言模型 → 新增自訂 LLM 供應商 | Provider Name 必須符合 LiteLLM 的支援供應商清單。自由輸入的廠商名稱不適用，而且每個模型都必須手動輸入 |
| RAGFlow | 使用者設定 → 模型供應商 →「OpenAI-API-Compatible」：執行個體名稱、API 金鑰、基礎 URL | 文件明確警告要確認你的路徑是否必須包含 /v1；不正確的基礎 URL 會導致驗證或呼叫失敗 |
| Jan | 設定 → 模型供應商 → 新增供應商；相容於 OpenAI 或 Anthropic | 基礎 URL 必須包含版本路徑。自訂供應商不會進行能力偵測，因此 Jan 無法推斷模型是否支援工具、視覺或音訊 |
| PrivateGPT | 單一 OPENAI_API_BASE | 其 README 自己訂定的標準是：如果端點實作了 /v1/chat/completions 和 /v1/models，就能運作 |
上述每個門檻都引用自產品自己的設定頁面：AnythingLLM 的 OpenAI（通用）供應商、Open WebUI 的 OpenAI 相容指南、LibreChat 的自訂端點參考、Onyx 的自訂推論供應商頁面、RAGFlow 的模型 API 金鑰設定、Jan 的自訂端點頁面以及 PrivateGPT 的 README。
在進行任何設定前，先釐清一項值得確定的界線。在 AnythingLLM、LibreChat、RAGFlow、Dify 和 Cherry Studio 中，嵌入器都註冊為與聊天模型分開的供應商，擁有自己的基礎路徑和金鑰。Kunavo 不提供嵌入模型，也不提供語音轉文字模型，因此將嵌入器指向 Kunavo 會回傳「model is not available」錯誤。聊天完成是 Kunavo 能夠回應的 RAG 管線唯一階段。請將嵌入器保留在隨附的本機模型上，或改用另一家供應商：
# Chat goes to an OpenAI-compatible endpoint.
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY='sk-...'
GENERIC_OPEN_AI_MODEL_PREF='claude-haiku-4-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000
# Embeddings do NOT. Kunavo serves no embedding model, so the
# embedder stays on the bundled local one (or another vendor).
EMBEDDING_ENGINE='native'
EMBEDDING_MODEL_PREF='Xenova/all-MiniLM-L6-v2'這種分離並非 AnythingLLM 的特例：LibreChat 的 RAG API 有自己的 EMBEDDINGS_PROVIDER 和自己的 RAG_OPENAI_BASEURL，而 RAGFlow、Dify 和 Cherry Studio 也都在與聊天模型不同的位置註冊嵌入模型。預算也要將這兩個部分分開編列。關於擷取部分的設計，請參閱 RAG 實作；關於相容介面涵蓋及不涵蓋的內容，請參閱 OpenAI 相容 API。
切換後每月聊天成本
上方幾乎每一列的用戶端都是免費的，因此反覆產生的費用是權杖。這是說明性的權杖算術，不是實測成本，也不是帳單上限。假設一個小型團隊每月提出 1,200 個問題，每次互動傳送 6,000 個輸入權杖（擷取的片段、系統提示和少量歷史記錄），並回傳 500 個輸出權杖——每月為 7.2M 個輸入權杖和 0.6M 個輸出權杖。費率是目前的 Kunavo 目錄每百萬權杖價格。
| 模型 | 每 1M 的輸入／輸出 | 預估每月聊天成本 |
|---|---|---|
| Claude Haiku 4.5 | $0.70 / $3.50 | $7.14 |
| Claude Sonnet 5 | $1.40 / $7.00 | $14.28 |
有兩種解讀。第一，在這種使用型態下，模型選擇會讓最便宜列與最昂貴列之間的帳單相差約 2.0 倍，而決定有多少片段會進入那 6,000 個輸入權杖的擷取設定是在用戶端中設定，而不是供應商——因此先調整用戶端，再比較費率。第二，將它與託管費用放在一起看：每月 $50 的 Cloud 方案可購買託管服務，但仍要求你自行提供金鑰，因此比較的是託管費加權杖，對比你自己的 Docker 主機加相同的權杖。
Kunavo 的目錄金額是計費底線而非上限：上游回報費用時，帳單會取目錄成本與上游成本乘以適用加價比例兩者中較高者。快取費用、影像或影片呼叫，以及嵌入器在其他地方產生的任何費用，都不包含在此範例中。最低儲值額為預付額度 $10——這是資金最低額度，而非工作費用或訂閱費。請參閱 計費詳細資訊。
設定替代方案
如果你最後選擇 Open WebUI，Kunavo 為其發布了設定參考：Open WebUI 設定指南。那是一份已發布的設定文件，而不是相容性測試——本頁沒有任何用戶端經過針對 Kunavo 端點的執行階段測試，上述所有內容都是從各專案自己的文件、授權檔案、已發布原始碼和儲存庫中繼資料讀取而來。在嘗試時保留一條可運作的路徑，執行一項有界限的工作，然後查看你的帳戶實際記錄的費用。準備好為金鑰儲值時，建立 Kunavo 帳戶。
還在兩個特定工具之間做決定，而不是在整個領域中選擇？AnythingLLM vs Open WebUI 會讓最接近的兩者正面比較，而 LibreChat vs Open WebUI 涵蓋另一個常見的候選組合。選定工具後，AI 成本最佳化會介紹如何削減權杖部分的成本。
常見問題
AnythingLLM 最佳替代方案是什麼？
這取決於你要離開 AnythingLLM 的哪一種版本，因為它們解決的是不同問題。離開 Desktop，因為你只想要本機聊天視窗：LM Studio 或 Jan。離開 Docker，因為你想要透過瀏覽器與文件進行多使用者聊天：Open WebUI 或 LibreChat。離開的原因是檢索品質令人不滿：RAGFlow，其核心就是文件解析與分塊。離開的原因是你需要跨公司系統、由連接器驅動的搜尋：Onyx。離開的原因是你其實想建立應用程式而不是聊天：Dify。沒有單一勝者，而選錯的代價很高，因為這些工具都沒有記錄 AnythingLLM 資料的匯入器。
有 AnythingLLM 的免費開源替代方案嗎？
有幾個，但請閱讀授權條款，不要只看「免費」這個字。LibreChat 採用 MIT 授權，ClickHouse 於 2025 年 11 月收購後仍維持 MIT。RAGFlow 採用 Apache-2.0。Dify 是修改版 Apache 2.0，另加兩項條件：除非 Dify 以書面授權，否則不得使用原始碼營運多租戶環境；且不得移除或修改其前端的標誌或著作權聲明。Onyx 將授權分開——其 ee 目錄以外的所有內容採用 MIT Expat，目錄內的所有內容則採用獨立的企業授權；另有一個完整採用 MIT 的鏡像版本 onyx-dot-app/onyx-foss。Open WebUI 的情況最為特殊：其授權頁面明確表示，v0.6.6 及之後的版本並非 OSI 認可的開源授權，因為其中的品牌條款禁止移除或修改 Open WebUI 品牌，除非部署在任何連續三十天期間的終端使用者不超過五十人、你持有著作權所有者特定的事前書面許可，或你持有企業授權。包含 v0.6.5 在內的更早版本仍採用 BSD-3。
我可以將 AnythingLLM 的工作區與文件遷移到其他工具嗎？
不能以轉移的方式進行。AnythingLLM 只會從其 /system/export-chats 端點匯出四種格式的聊天記錄——CSV、JSON、JSONL 與 JSON (Alpaca)；其文件中任何地方都沒有記錄文件匯出、向量匯出、備份或還原程序。本頁的任何替代方案也沒有記錄 AnythingLLM 資料的匯入器。實務上，遷移代表要將原始來源檔案重新匯入新工具，因此有一項前提：原始檔案必須存在於應用程式以外的某處。如果文件唯一的副本就是你上傳的那份，請在停止任何服務前，先從自己的來源系統取回它。
AnythingLLM 已停止開發或被放棄了嗎？
沒有。Mintplex-Labs/anything-llm 儲存庫採用 MIT 授權、未封存，預設分支截至 2026 年 9 月 17 日仍有提交，最新版本是於 2026 年 8 月 27 日發布的 v1.16.1（GitHub API，於 2026 年 9 月 21 日重新查核）。2026 年離開 AnythingLLM 是適配性決策，而不是緊急救援。這對遷移計畫很重要：沒有期限迫使你搬遷，因此讓舊執行個體與替代方案並行運作，直到新的工具能正確回答你的問題，除了磁碟空間外不需付出任何代價。
哪些 AnythingLLM 替代方案允許我自帶 API 金鑰？
本頁記錄設定路徑的六個工具都允許，且每個產品的條件不同。每個工具都接受 OpenAI 相容的基礎 URL；Jan 與 LibreChat 也可以指向採用 Anthropic Messages 格式的端點。Open WebUI 只需要 URL 與金鑰，其文件並指出，驗證連線按鈕失敗並不代表供應商不相容。LibreChat 會在 librechat.yaml 中以 name、apiKey、baseURL 與 models 區塊接受自訂端點。Onyx 要求 Provider Name 必須符合 LiteLLM 的支援供應商清單，因此自由輸入的供應商名稱無法使用。RAGFlow 的文件提醒你確認路徑是否需要 /v1。Jan 接受 OpenAI 或 Anthropic 相容的供應商，但不會偵測模型是否支援工具、視覺或音訊。PrivateGPT 只接受單一 OPENAI_API_BASE。
ClickHouse 收購後，LibreChat 仍然是開源軟體嗎？
是。ClickHouse, Inc. 於 2025 年 11 月 4 日宣布收購，其公告表示，對現有 LibreChat 部署而言，營運將維持不變，並持續投資於開源專案與社群。公告未提及授權；儲存庫 LICENSE 與 librechat.ai 的關於頁面目前仍都標示 MIT。有兩件事確實改變了，卻仍經常被錯誤報導。由 LibreChat 營運、付費的 Code Interpreter API 已不再接受新訂閱——其網站如此說明——此前維護者表示，將在一段過渡期內停止以目前形式提供該服務，目標日期為 2026 年 5 月 1 日；其背後的沙箱程式碼執行服務採用 Apache-2.0，且可以自行託管。此外，LibreChat 完全沒有定價頁面——librechat.ai/pricing 回傳 404，因此你找到的任何 LibreChat 價格表都是某個託管服務商的費用。
Khoj、GPT4All、Verba 與 PrivateGPT 呢？
將它們列入候選名單前，請先確認狀態，因為較早的比較文章仍將四者全部列為可用選項。Weaviate 的 Verba 已在 GitHub 封存，因此不是目前的推薦選項。Khoj Cloud 於 2026 年 4 月 15 日棄用，app.khoj.dev 現在將使用者導向自行託管；AGPL-3.0 儲存庫仍公開，但最新版本是 2026 年 3 月的 2.0.0-beta.28。GPT4All 未封存，也沒有棄用公告，但最新版本是 2025 年 2 月 25 日的 v3.10.0，預設分支自 2025 年 5 月 27 日後就沒有推送——這些是日期，而不是判決。PrivateGPT 仍然非常活躍，但它已不再是人們記憶中的離線文件聊天應用程式：其 README 將它稱為開源 API 層，並表示隨附的 UI 是用於測試與示範的工作台。
上述每個專案的供應商定價頁面、產品文件、授權檔案、已發布原始碼及儲存庫中繼資料均已於 2026 年 9 月 19 日查核，並於 2026 年 9 月 21 日再次查核，且僅限第一方來源。Kunavo 詞元費率來自即時目錄，本頁每個美元範例都是用於說明的詞元費用計算，而非實測成本。本頁沒有任何用戶端經過針對 Kunavo 端點的執行階段測試。