合适的 AnythingLLM 替代方案取决于你要离开的三个版本中的哪一个——Desktop、自托管 Docker 还是 Cloud——因为它们因不同原因而不适用。 Open WebUI 和 LibreChat 是多用户文档聊天最接近的同类替代品；当问题在于检索质量时，应选择 RAGFlow；Onyx 适合连接器驱动的公司搜索；LM Studio 和 Jan 适合只想要本地聊天窗口的用户。
品牌列表通常遗漏的是迁移成本。AnythingLLM 只能导出聊天历史，除此之外什么也不能导出，本页没有任何替代方案在文档中说明提供了用于导入这些内容的工具，而你要离开的工具也没有陷入困境——Mintplex-Labs/anything-llm使用 MIT 许可证，未被归档，默认分支在 2026 年 9 月 17 日仍有提交，v1.16.1 于 2026 年 8 月 27 日发布（GitHub API，于 2026 年 9 月 21 日重新检查）。因此你有时间妥善完成这件事。
人们为什么离开，以及他们离开的是哪个版本
其中大部分原因可归结为四种抱怨，而且每一种都是特定版本已记录的属性，而不是普遍缺陷。
| 抱怨 | 已记录的内容 | 对应版本 |
|---|---|---|
| “我的代理无法运行” | 托管云在任何层级都不支持自定义代理或 MCP；文档将这类用户引导至 Desktop 或自托管版本 | 仅 Cloud |
| “我无法与团队共享它” | 多用户支持、用户管理、工作区访问管理、可嵌入小组件、密码保护、白标功能和可通过浏览器访问的 UI 都标记为仅 Docker 支持；Desktop 的网络开关会将 API 暴露在 0.0.0.0 上，文档警告其前面没有账户或身份验证 | 桌面版 |
| “一个大型文档会让实例崩溃” | 内置云端嵌入器“不会阻止你尝试嵌入一份 5,000pg 的 PDF，但会让你的实例崩溃”——限制按字数计算，而不是文件大小 | 云端版 |
| “托管价格不包含模型” | Basic $50/月，Pro $99/月，Enterprise“联系我们”——Basic 层级的描述写着“只需带上 LLM API Key”，因为托管实例不附带内置模型 | 云端版 |
这些信息于 2026 年 9 月 19 日查阅云端限制页面、桌面版概览和定价页面所得。比较之前需要注意两个命名陷阱。AnythingLLM 自身的页面对层级名称说法不一——定价页面称为 Basic 和 Pro，文档称为 Starter 和 Professional，而且没有任何内容进行统一说明——因此请确认你的账户属于哪个层级。另一个陷阱是，“Pro”指代两个互不相关的产品：每月 $99 的 Cloud Pro，以及 AnythingLLM Desktop Pro，即适用于 Desktop v1.15.0 及更高版本的许可证密钥。Desktop Pro 页面介绍了其功能，但没有公布价格；anythingllm.com/pro 返回 404，因此你看到的任何与该名称关联的价格数字都来自其他地方。Cloud Basic 或 Pro 均未公布席位数、存储配额或使用配额。
请注意该列表中没有的内容：模型本身的成本。无论你切换到哪种自托管工具，这笔账单都不会消失，因为它们都要求你提供密钥。不过它们并不完全相同——这些产品的检索默认设置不同，而且它们决定每个问题携带多少上下文。
哪种替代方案适合哪项工作
| 替代方案 | 在以下情况下选择它 | 许可证和状态 | 公布价格 |
|---|---|---|---|
| Open WebUI | 你想要 AnythingLLM 的 Docker 体验——浏览器 UI、多位用户——并希望尽量少重新配置 | GitHub 报告 NOASSERTION；该项目声明 v0.6.6+ 不属于 OSI 开源项目。v0.11.3，未归档 | 标准使用免费，保留品牌；企业许可证需询价 |
| LibreChat | 你想要多用户聊天，并且可以接受配置单独的 RAG 服务 | MIT，在 ClickHouse 收购后仍保留。活跃；每个版本都标记为预发布 | 不存在定价页面（404） |
| Onyx（原名 Danswer） | 工作目标是跨公司系统进行搜索，而不是与上传的文件聊天 | 分开授权：ee目录之外使用 MIT Expat，目录内使用企业许可证。v4.7.7 | Cloud Business 每位用户每月 $20，按年计费；Enterprise 需询价 |
| RAGFlow | 实际问题在于检索质量——解析、分块、引用 | Apache-2.0，v0.27.2，未归档 | 自托管免费。Cloud：$0、$29/月（显示为从 $59 划线降价）、$129/月（从 $259 降价） |
| Dify | 你想构建应用和工作流，而不是使用聊天窗口 | 修改版 Apache 2.0，增加两个条件：未经书面授权不得运营多租户环境，不得移除前端徽标或版权声明 | 沙箱免费；$590 和 $1,590 按工作区每年计费，而非按席位计费 |
| LM Studio | 仅限本地桌面版；你从未需要服务器部分 | 闭源，活跃 | 自 2025 年 7 月 8 日起，个人和工作用途均免费 |
| Jan | 本地桌面版，但你希望拥有源代码 | 根据 LICENSE 文件（Menlo Research），使用 Apache 2.0；GitHub 徽章显示 NOASSERTION | 免费 |
| Msty Studio | 你愿意为精致体验付费，并不需要访问源代码 | 其网站未发布许可证；msty.app 现在重定向至 msty.ai | 免费层；Aurum 每位用户每年 $149；Aurum Lifetime 每位用户 $349 |
于 2026 年 9 月 19 日，根据 Open WebUI 企业页面、librechat.ai、onyx.app/pricing、ragflow.io、dify.ai/pricing、LM Studio 的许可证公告、msty.ai/pricing和 GitHub API 检查价格与仓库元数据。需要注意三点。RAGFlow 的 $29 和 $129 是从 $59 和 $259 划线降价后显示的促销数字，页面未说明结束日期，也从未定义其一个“credits”可以购买什么。Open WebUI 的品牌条款在其许可证页面和仓库 LICENSE 中有明确说明，这是大多数人会忽略的细节：保留品牌是免费使用路径；只有在部署的任何连续 30 天期间终端用户不超过五十人、持有版权持有者的特定事先书面许可，或持有企业许可证时，才允许移除或更改品牌。Onyx 是一个严重重名的名称——只有 onyx.app 能提供 Onyx 的价格；不带域名搜索会返回 macOS 维护工具、印刷 RIP 供应商以及其他几家公司。
四个项目并不像旧文章所说的那样
替代方案列表往往比其中的产品更快过时。这四个项目仍被广泛推荐，在了解其当前状态之前不应列入候选名单；所有状态均于 2026 年 9 月 19 日检查。
| 项目 | 当前情况 | 改去哪里 |
|---|---|---|
| Verba（Weaviate） | 已在 GitHub 上归档，BSD-3-Clause，最近一次推送于 2026 年 6 月 8 日 | 不是当前可选方案。RAGFlow 涵盖相同的检索优先领域 |
| Khoj | Khoj Cloud 已于 2026 年 4 月 15 日弃用，app.khoj.dev 现在将用户引导至自行托管。AGPL-3.0 仓库仍公开，最近一次推送于 2026 年 8 月 2 日，最新版本为 2026 年 3 月发布的 2.0.0-beta.28 | 自行托管是唯一剩余路径；你找到的任何 Khoj 订阅价格都已过时 |
| GPT4All | 未归档且没有弃用通知，但最新版本是 2025 年 2 月 25 日发布的 v3.10.0，默认分支自 2025 年 5 月 27 日以来没有新的推送。v3.10.0 安装程序仍可下载 | 对于同样的本地桌面用途，可以选择 LM Studio 或 Jan。Nomic 当前的平台产品属于不同产品线，其价格也不是 GPT4All 的价格 |
| PrivateGPT | 仍然活跃并采用 Apache-2.0（v1.0.1）许可，但定位有所调整：其 README 将其称为“开源 API 层”，并表示随附的 /ui 是用于测试和演示的工作台，而 API 才是真正的产品 | 作为 API 层没有问题；但不能替代面向终端用户的文档聊天应用 |
还有一个需要谨慎对待的项目：Quivr 的代码仓库现在会跳转到另一个 GitHub 组织，其 README 描述的是 RAG 核心库，而不是面向终端用户的应用。没有找到解释此次迁移的带日期公告，因此这说明的是重定向这一事实，而不是收购事实。
哪些内容可以迁移，哪些不能
这项成本应当决定你的候选名单，而且本页的每个目标都采用相同成本。
你可以带走的内容：聊天历史，且恰好有四种格式——CSV、JSON、JSONL 和 JSON（Alpaca）——通过 AnythingLLM 的 /system/export-chats 端点提供。这就是已发布源代码中完整的导出类型列表。
无法带走的内容：其他全部内容。我们查阅了 AnythingLLM 的文档，寻找文档导出、向量导出或有文档说明的备份与恢复流程，但都没有找到。这只是缺乏证据，并不能证明不可能——但你无法围绕未记录的路径规划迁移。工作区、嵌入向量以及文档本身都没有有文档说明的导出路径。Community Hub 的导入字符串可以迁移代理技能、系统提示词和斜杠命令——这是其文档列出的三种受支持项目类型——但只能在 AnythingLLM 实例之间迁移；在自托管安装中，除非设置了 COMMUNITY_HUB_BUNDLE_DOWNLOADS_ENABLED，否则技能导入会失败。本页没有任何替代方案记录 AnythingLLM 数据导入器；我检查的就是这一点，依据的是每个产品自己的文档。LibreChat 是唯一记录了会话导入器的产品，而它列出的来源是 ChatGPT、Claude 和 ChatbotUI v1——不是 AnythingLLM。
因此，迁移意味着重新摄取，而重新摄取有一个硬性前提：你的原始源文件必须存在于应用之外。实际操作如下：
- 先导出聊天历史，同时保持实例运行。这是 AnythingLLM 唯一提供的导出内容，也是人们实际提出的问题记录——以后可以用来判断替代方案的回答是否同样出色。
- 从原始来源收集文档——共享驱动器、wiki、工单系统——而不是从 AnythingLLM 内部收集。
- 卸载任何内容之前，先将 Desktop 存储文件夹复制到冷存储。文档记录的位置分别是 macOS 上的
/Users/<usr>/Library/Application Support/anythingllm-desktop/storage、Linux 上的~/.config/anythingllm-desktop/storage/和 Windows 上的C:\Users\<usr>\AppData\Roaming\anythingllm-desktop\storage，其中的anythingllm.db是 SQLite 数据库。严格将其视为备份：文档没有提供迁移、备份或恢复说明，也未在此测试该文件夹能否移动到另一台机器或 Docker 中。 - 将替代方案与旧方案并行运行，然后重新摄取。接着向两个实例各提出十个你已经知道答案的问题，并进行比较。这些产品的检索默认设置不同，因此相同的语料库并不能保证得到相同的答案。
- 通过什么都不做来回滚。保持 AnythingLLM 运行，直到第 4 步通过；AnythingLLM 默认将向量存储在实例上的 LanceDB 中，因此旧索引就在你自己的磁盘上，而不在你已经取消的服务中。
将新客户端指向模型端点
下面的七个产品都会在各自的提供商配置项中接受第三方端点，而且每个产品都有不同的门槛。在所有情况下，该配置项都兼容 OpenAI；如果要求，Jan 和 LibreChat 也可以使用 Anthropic Messages 格式。LM Studio 和 Msty Studio 有意未列入此表——本页没有为二者中的任何一个确立有文档说明的远程端点路径。这是重新配置步骤，而提前了解门槛正是让步骤保持简短的关键。
| 产品 | 端点放在哪里 | 最容易让人卡住的门槛 |
|---|---|---|
| AnythingLLM | 提供商“Generic OpenAI”：以 /v1 结尾的基础 URL、API 密钥、聊天模型名称、令牌上下文窗口、最大令牌数 | 其自身文档将该提供商称为面向开发者，并警告除非你知道自己在做什么，否则不要使用它。Anthropic 提供商完全没有基础 URL 设置，因此兼容 Anthropic 的网关必须通过此配置项接入 |
| Open WebUI | Admin → Connections → Manage OpenAI API Connections：URL 和密钥 | /models 是可选的——没有它，你需要手动将模型 ID 添加到允许列表中。一次返回 400、401 或 403 的“Verify Connection”失败，并不意味着提供商不兼容；文档说明聊天补全仍然可以正常工作 |
| LibreChat | librechat.yaml 自定义端点：name、apiKey、baseURL、models，其中包含默认值和获取标志 | 可选的 provider: "anthropic" 会将该端点切换到原生 Messages 客户端——此时不支持 models.fetch，因此必须明确列出 models.default |
| Onyx | Admin Panel → Configuration → Language Models → Add Custom LLM Provider | Provider Name 必须与 LiteLLM 的受支持提供商列表匹配。随意填写的供应商名称不行，而且每个模型都需要手动输入 |
| RAGFlow | User settings → Model providers → “OpenAI-API-Compatible”：实例名称、API 密钥、Base URL | 文档明确警告，应确认你的路径是否必须包含 /v1；错误的基础 URL 会导致验证或调用失败 |
| Jan | Settings → Model Providers → Add Provider；兼容 OpenAI 或 Anthropic | 基础 URL 必须包含版本路径。自定义提供商不会进行能力检测，因此 Jan 无法推断模型是否支持工具、视觉或音频 |
| PrivateGPT | 单个 OPENAI_API_BASE | 其 README 自己设定的标准是：如果端点实现了 /v1/chat/completions 和 /v1/models，就可以正常工作 |
上面的每个门槛都引自产品自己的设置页面：AnythingLLM 的 OpenAI（通用）提供商、Open WebUI 的 OpenAI 兼容指南、LibreChat 的自定义端点参考、Onyx 的自定义推理提供商页面、RAGFlow 的模型 API 密钥设置、Jan 的自定义端点页面以及 PrivateGPT 的 README。
在配置任何内容之前，有一个边界值得先明确。在 AnythingLLM、LibreChat、RAGFlow、Dify 和 Cherry Studio 中，嵌入器都作为区别于聊天模型的独立提供商注册，并拥有自己的基础路径和密钥。Kunavo 不提供嵌入模型或语音转文本模型，因此将嵌入器指向 Kunavo 会返回“模型不可用”错误。聊天补全是 Kunavo 能够响应的 RAG 流程唯一阶段。请将嵌入器保留在随附的本地模型上，或使用其他独立供应商：
# Chat goes to an OpenAI-compatible endpoint.
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY='sk-...'
GENERIC_OPEN_AI_MODEL_PREF='claude-haiku-4-5'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000
# Embeddings do NOT. Kunavo serves no embedding model, so the
# embedder stays on the bundled local one (or another vendor).
EMBEDDING_ENGINE='native'
EMBEDDING_MODEL_PREF='Xenova/all-MiniLM-L6-v2'这种分离并非 AnythingLLM 的特殊情况：LibreChat 的 RAG API 有自己的 EMBEDDINGS_PROVIDER 和自己的 RAG_OPENAI_BASEURL，而 RAGFlow、Dify 和 Cherry Studio 也都在与聊天模型不同的位置注册嵌入模型。预算也要将这两部分分开。关于检索侧的设计，请参阅 RAG 实现；关于兼容表面涵盖和不涵盖的内容，请参阅 OpenAI 兼容 API。
切换后每月聊天的成本
上面几乎每一行的客户端都是免费的，因此持续产生的数字就是令牌费用。这是示意性的令牌计算，不是实测成本，也不是账单上限。假设一个小团队每月提出 1,200 个问题，每轮发送 6,000 个输入令牌（检索到的片段、系统提示词和少量历史记录），并返回 500 个输出令牌——每月输入 7.2M 个令牌、输出 0.6M 个令牌。费率采用实时的 Kunavo 目录每百万令牌价格。
| 模型 | 每 1M 个令牌的输入 / 输出 | 预计每月聊天成本 |
|---|---|---|
| Claude Haiku 4.5 | $0.70 / $3.50 | $7.14 |
| Claude Sonnet 5 | $1.40 / $7.00 | $14.28 |
有两种解读。第一，在这种规模下，模型选择会让最便宜和最昂贵行之间的账单相差约 2.0 倍；而决定这 6,000 个输入令牌中包含多少片段的检索设置是在客户端而非提供商中配置的——因此在寻找费率之前，先调整客户端。第二，将其与托管费用放在一起看：每月 50 美元的 Cloud 方案包含托管，但仍要求你自行提供密钥，因此比较的是托管费用加令牌费用，对比你自己的 Docker 主机加相同的令牌费用。
Kunavo 的目录金额是计费下限，而不是上限：上游报告费用后，账单取目录成本与上游成本乘以适用加价两者中的较高者。缓存费用、图像或视频调用，以及嵌入器在其他地方产生的任何费用，都不包含在此示例中。最低充值金额为预付额度 $10——这是资金充值最低额，不是任务费用或订阅费用。请参阅 计费详情。
设置替代方案
如果你最终选择 Open WebUI，Kunavo 为其发布了配置参考：Open WebUI 设置指南。这是一份已发布的设置文档，而不是兼容性测试——本页列出的客户端没有一个经过针对 Kunavo 端点的运行时测试，上述内容全部来自各项目自己的文档、许可证文件、已发布源代码和仓库元数据。在尝试时保留一条可用路径，运行一项有界任务，然后查看你的账户实际为其记录的费用。准备为密钥充值时，请创建 Kunavo 账户。
还在两个具体工具之间犹豫，而不是在整个领域中选择？AnythingLLM vs Open WebUI将最接近的一对进行正面对比，LibreChat vs Open WebUI涵盖另一个常见候选组合。选择完成后，AI 成本优化介绍如何削减令牌方面的成本。
常见问题
AnythingLLM 的最佳替代方案是什么？
这取决于你要离开的 AnythingLLM 三个版本中的哪一个，因为它们解决的是不同的问题。离开 Desktop，是因为你只想要一个本地聊天窗口：LM Studio 或 Jan。离开 Docker，是因为你想通过浏览器让多位用户围绕文档聊天：Open WebUI 或 LibreChat。离开它，是因为你不满意检索质量：RAGFlow，其核心就是文档解析和分块。离开它，是因为你需要跨公司系统进行连接器驱动的搜索：Onyx。离开它，是因为你其实想构建应用而不是聊天：Dify。不存在唯一赢家，而选错的代价很高，因为这些工具都没有记录 AnythingLLM 数据的导入器。
有没有免费的开源 AnythingLLM 替代方案？
有几个，但应查看许可证，而不是只看“免费”二字。LibreChat 使用 MIT 许可证，在 ClickHouse 于 2025 年 11 月收购它之后仍保持 MIT。RAGFlow 使用 Apache-2.0。Dify 使用修改版 Apache 2.0，并增加了两个条件：除非 Dify 书面授权，否则不得使用源代码运营多租户环境；不得移除或修改其前端的徽标或版权声明。Onyx 将其许可证拆分开来——ee 目录之外的所有内容使用 MIT Expat，目录内的所有内容使用单独的企业许可证；onyx-dot-app/onyx-foss 还存在一个完全使用 MIT 的镜像。Open WebUI 的情况最为严格：其许可证页面说明，v0.6.6 及更高版本不属于 OSI 批准的开源许可证，因为品牌条款禁止移除或更改 Open WebUI 品牌，除非部署在任何连续 30 天期间的终端用户不超过五十人、你持有版权持有者的特定事先书面许可，或你持有企业许可证。包括 v0.6.5 在内的更早代码仍使用 BSD-3。
我可以将 AnythingLLM 的工作区和文档迁移到其他工具吗？
不能作为直接传输。AnythingLLM 只能从其 /system/export-chats 端点以四种格式导出聊天历史——CSV、JSON、JSONL 和 JSON (Alpaca)；其文档中没有任何地方记录文档导出、向量导出、备份或恢复流程。本页中的任何替代方案也没有记录 AnythingLLM 数据的导入器。实际上，迁移意味着将原始源文件重新摄取到新工具中，这使一件事成为前提：原文件必须存在于应用之外的某个地方。如果某份文档的唯一副本就是你上传的那份，请在弃用任何工具之前，从你自己的源系统中将它取回。
AnythingLLM 是不是已经停止开发或被弃用了？
不是。Mintplex-Labs/anything-llm 仓库使用 MIT 许可证，未被归档，其默认分支直到最近的 2026 年 9 月 17 日仍有提交，最新版本是于 2026 年 8 月 27 日发布的 v1.16.1（GitHub API，于 2026 年 9 月 21 日重新检查）。在 2026 年离开 AnythingLLM 是适配性决定，而不是救火。这对迁移计划很重要：没有迫使你迁移的截止日期，因此可以让旧实例和替代方案并行运行，直到新工具能够正确回答你的问题；代价只有磁盘空间。
哪些 AnythingLLM 替代方案允许我使用自己的 API 密钥？
本页记录其设置路径的六个方案都支持，但每个产品的门槛不同。它们都接受 OpenAI 兼容的基础 URL；Jan 和 LibreChat 还可以指向使用 Anthropic Messages 格式的端点。Open WebUI 只需要 URL 和密钥，其文档指出，Verify Connection 按钮失败并不意味着供应商不兼容。LibreChat 在 librechat.yaml 中通过 name、apiKey、baseURL 和 models 块接收自定义端点。Onyx 要求 Provider Name 与 LiteLLM 的受支持供应商列表匹配，因此自由填写的供应商名称无法使用。RAGFlow 的文档提醒确认你的路径是否需要 /v1。Jan 接受 OpenAI 或 Anthropic 兼容的供应商，但不会检测模型是否支持工具、视觉或音频。PrivateGPT 接受单个 OPENAI_API_BASE。
ClickHouse 收购 LibreChat 后，它仍然是开源项目吗？
是。ClickHouse, Inc. 于 2025 年 11 月 4 日宣布收购，其公告称，对于现有 LibreChat 部署，运营将保持不变，并继续投资开源项目和社区。公告没有说明许可证；仓库中的 LICENSE 和 librechat.ai 的 about 页面仍都标明 MIT。有两件事确实发生了变化，却仍被广泛误报。由 LibreChat 运营的付费 Code Interpreter API 已不再接受新订阅——其网站明确如此——此前维护者曾表示，他们将在过渡期内停止以当前形式提供该服务，目标日期为 2026 年 5 月 1 日；其背后的沙箱代码执行服务使用 Apache-2.0 许可证，并且可以自行托管。此外，LibreChat 完全没有发布定价页面——librechat.ai/pricing 返回 404，因此你看到的任何 LibreChat 价格表都是某个托管服务的费用。
Khoj、GPT4All、Verba 和 PrivateGPT 怎么样？
将它们列入候选名单前，先检查其状态，因为较早的对比文章仍将这四个项目全部列为活跃选项。Weaviate 的 Verba 已在 GitHub 上归档，因此不应作为当前推荐。Khoj Cloud 已于 2026 年 4 月 15 日弃用，app.khoj.dev 现在将用户引导至自行托管；其 AGPL-3.0 仓库仍然公开，但最新版本是 2026 年 3 月发布的 2.0.0-beta.28。GPT4All 未被归档，也没有弃用通知，但其最新版本是 2025 年 2 月 25 日发布的 v3.10.0，默认分支自 2025 年 5 月 27 日以来没有新的推送——这些是日期，而不是结论。PrivateGPT 仍然非常活跃，但它已不再是人们记忆中的离线文档聊天应用：其 README 称它是开源 API 层，并表示随附的 UI 是用于测试和演示的工作台。
已于 2026 年 9 月 19 日检查并于 2026 年 9 月 21 日再次检查上述每个项目的供应商定价页面、产品文档、许可证文件、已发布源代码和仓库元数据，仅使用一手资料。Kunavo 令牌费率来自实时目录，本页所有美元示例都是示意性的令牌计算，而非实测成本。本页没有任何客户端经过针对 Kunavo 端点的运行时测试。