AnythingLLM 和 LibreChat 都是免费、采用 MIT 许可且可自行托管的产品,因此选择并不取决于价格,而取决于检索功能是内置于产品中,还是需要部署在产品旁边。 AnythingLLM 将文档作为工作单元:把文件放入工作区,嵌入器和向量存储已经就绪。LibreChat 将对话作为工作单元:支持多个模型、多个用户、按角色设置权限,而文档搜索则是需要你自行部署的独立服务。
在比较之前,先纠正一个会影响你理解项目的背景。LibreChat 现在是 ClickHouse 的项目:ClickHouse, Inc. 于 2025 年 11 月 4 日宣布收购,并表示对于现有部署,“运营继续保持不变,并持续投资开源项目和社区”;如今 librechat.ai 仍展示着这一横幅。AnythingLLM 仍是 Mintplex Labs 的产品。以下引用的每个来源都带有 2026 年 9 月 21 日的核查日期;结尾注释列出了为本页直接重新阅读的来源。
哪一个适合你实际要完成的任务
| 如果这是你的任务 | 选择 | 具体原因 |
|---|---|---|
| 在一台机器上询问一个文件夹中的文档 | AnythingLLM Desktop | 它自带检索功能。嵌入器在应用中运行,向量存储默认使用内置 LanceDB,因此无需部署第二个服务 |
| 多个用户、多个模型系列、一个共享实例 | LibreChat | ADMIN 和 USER 角色,以及按功能设置的权限键——包括 agents、fileSearch、webSearch、runCode、mcpServers 等;此外,Admin Panel 中还支持自定义角色。AnythingLLM 文档标注其访问设置仅适用于 Docker 版本;Desktop 为单用户 |
| 你的端点使用原生 Anthropic Messages 协议 | LibreChat | provider: anthropic 通过原生 Messages API 客户端路由自定义端点。AnythingLLM 有一等公民级别的 Anthropic 提供商,但没有文档说明如何将其指向自定义 base URL |
| 你希望使用托管实例,不运行服务器 | AnythingLLM Cloud——但要先阅读限制 | 它是两者中唯一发布了托管方案的产品。但该方案也是限制更多的部署方式:不支持 MCP、不支持自定义代理,也不包含模型 |
| 在聊天中执行代码 | LibreChat,但有一项注意事项 | 由 LIBRECHAT_CODE_BASEURL 提供支持。第一方托管沙盒已停止接受新订阅,因此现在意味着要自行部署 Apache-2.0 服务 |
两者分别收费多少,以及“Pro”意味着什么
| 项目 | 公布价格 | 来源内容 |
|---|---|---|
| AnythingLLM Desktop | 免费下载 | anythingllm.com;“无需 API 密钥”的说法描述的是捆绑本地模型的使用路径 |
| AnythingLLM Docker 自行托管 | 免费,MIT | “免费使用 Docker 自行托管” |
| AnythingLLM Cloud——Basic | $50/月 | “私有实例”、“自定义子域名”、“只需提供一个 LLM API 密钥” |
| AnythingLLM Cloud——Pro | $99/月 | “适合大型团队”,另列有“72 小时支持 SLA” |
| AnythingLLM Cloud——Enterprise | 联系我们 | “本地部署”、“SSO、RBAC 等” |
| AnythingLLM Desktop Pro 许可证 | 未公开 | 文档只邀请你“购买并激活许可证”;结账链接对非浏览器客户端不可访问。聚合网站上的数字没有第一方来源 |
| LibreChat,自行托管 | 免费,MIT | 不存在价格页面——librechat.ai/pricing 和 /enterprise 都返回 404 |
| LibreChat 托管式 Code Interpreter API | 停止接受新买家 | “我们目前不接受新订阅”;现有订阅者仍可以管理自己的订阅 |
价格于 2026 年 9 月 21 日读取自 anythingllm.com/cloud 及上文链接的页面。这张表中有两个陷阱。首先,“AnythingLLM Pro”指的是两个互不相关的东西——每月 $99 的托管 Cloud 层级,以及要求使用 Desktop v1.15.0 或更高版本、且价格不在任何可访问官方页面上的 Desktop Pro 许可证——因此如果不说明指的是哪一个,单独引用价格没有意义。其次,供应商自己的术语前后不一致:价格页面写的是 Basic 和 Pro,而 Cloud 限制页面写的是“Starter”和“Professional”。没有任何第一方信息将两组名称相互对应,因此请在结账时确认,不要假定它们是相同层级。
LibreChat 方面还有一个值得注意的时间冲突:一则 2026 年 2 月 12 日的 GitHub 讨论引用了“逐步改进此产品并停止以当前形式提供该 API”的计划,目标日期为 2026 年 5 月 1 日;然而,2026 年 9 月 21 日的价格页面仍告知现有订阅者可以管理其订阅。本页面无法确认该日期是否已经执行。
检索的差异,这才是真正的决策点
AnythingLLM。文档进入工作区,应用自行对其建立索引。服务器环境文件仅将 VECTOR_DB="lancedb" 作为唯一未注释的值,同时在旁边注释列出 Chroma、Pinecone、Astra、pgvector、Weaviate、Qdrant、Milvus 和 Zilliz。问题在于作用范围:嵌入器文档写道:“嵌入模型是系统级设置,不能像 LLM 那样按工作区原子化配置”;之后如果更改选择,你“必须删除已上传的文档并重新嵌入”。这就是该产品的迁移成本,付出的是重新建立索引的时间,而不是金钱。
LibreChat。文档搜索完全不在聊天应用中。RAG API“作为一个独立的 FastAPI 服务运行,由 PostgreSQL + pgvector 数据库提供支持”,通过 RAG_API_URL 和 EMBEDDINGS_PROVIDER 配置(openai、azure、huggingface、huggingfacetei 或 ollama),分块默认值为 1500,重叠为 100。代理通过 file_search 能力访问它,管理员可以按角色禁用该能力。需要部署更多组件,也拥有更多控制权。
Kunavo 不提供嵌入、语音转文本或文本转语音服务——没有启用的模型携带这些端点——因此在任一产品中,嵌入器插槽,以及 AnythingLLM 单独的转录和语音插槽,都应指向提供这些能力的供应商;聊天插槽才是 Kunavo 密钥覆盖的部分。RAG 实现介绍了如何拆分这些阶段。
代理、MCP,以及谁可以更改什么
| 相同任务 | AnythingLLM | LibreChat |
|---|---|---|
| 启动工具运行 | 聊天开头的 @agent 指令;文档还说明 AnythingLLM 会自行判断你的模型是否能够使用工具 | 代理构建器,支持 file_search 和 execute_code 等能力 |
| 内置工具 | 已发布的目录:RAG Search、Web Browsing、Web Scraping、Save Files、List/Summarize Documents、Chart Generation、SQL Agent、File System、Document Generation、Gmail、Google Calendar、Outlook、Scheduled Jobs——还可以通过自定义技能、MCP 服务器和 Agent Flows 扩展 | 根据 OpenAPI 规范生成的操作,以及上述能力 |
| MCP 配置 | 存储插件目录中的 anythingllm_mcp_servers.json——StdIO、SSE 和 Streamable | librechat.yaml 中的 mcpServers: 区块——stdio、sse、streamable-http、websocket |
| 付费托管层级中的 MCP | 按政策不支持托管 Cloud | 不存在可设置门槛的托管层级 |
| 角色 | 多用户模式下的 Admin、Manager 和 Default;文档标注该模式仅适用于 Docker 版本;Desktop 为单用户 | ADMIN 和 USER,并按角色设置 agents、prompts、fileSearch、webSearch、runCode、mcpServers 等权限键;Admin Panel 中还支持自定义角色 |
| 权限设置位置 | 实例设置 | Admin Panel;文档现在将 YAML 键描述为用于启动配置,而不是日常管理 |
关于这张表有两点注意事项。LibreChat 的权限列表对应 0.8.8-rc 文档;由于项目没有发布稳定版本标签,较早固定的镜像不会包含全部权限——请以你实际运行的版本为准。AnythingLLM 的角色名称来自其 Security and Access 页面,该页面开头写着:“仅限 DOCKER VERSION!这些设置仅适用于 AnythingLLM 的 Docker 版本”——这句话说明的是设置所在的位置,并不是说托管 Cloud 是单用户的,因为 Cloud 文档将其描述为多用户部署。
将两者指向同一个密钥
两者都接受兼容 OpenAI 的端点,因此在一个密钥上并行运行它们,是公平的比较方式。对于网关而言,两者的配置差异很重要。
# AnythingLLM — LLM Preference -> provider "OpenAI (generic)".
# Self-host env names, from server/.env.example on master:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.kunavo.com/v1'
GENERIC_OPEN_AI_API_KEY=sk-kn-...
GENERIC_OPEN_AI_MODEL_PREF='claude-sonnet-5' # typed by hand; no model-list fetch is documented
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=1000000
# Embeddings are a SEPARATE provider slot with its own key and its own base
# path (EMBEDDING_ENGINE / EMBEDDING_BASE_PATH / EMBEDDING_MODEL_PREF), and so
# are the transcription and speech slots. A working chat endpoint proves
# nothing about any of them.
# LibreChat — librechat.yaml in the project root, beside your .env.
endpoints:
custom:
- name: "Kunavo" # required
apiKey: "${KUNAVO_API_KEY}" # required; resolved from .env
baseURL: "https://api.kunavo.com/v1" # required
models: # required
default: ["claude-sonnet-5", "claude-haiku-4-5"]
fetch: true
# tokenConfig is what the docs say supplies a custom endpoint's rates and
# context windows — read by context usage, cost breakdowns and balance
# transactions. prompt/completion are USD per million tokens; context is
# that model's own window. All three are required, per model.
tokenConfig:
claude-sonnet-5:
prompt: 1.4
completion: 7
context: 1000000AnythingLLM 的自身文档将该提供商描述为“面向开发者的 llm 提供商——除非你知道自己在做什么,否则不应使用”,并称其“如果你错误输入任何配置设置,可能无法按预期运行”。文档没有说明工具调用、代理或流式传输是否能够通过该路由,因此本页面不对任何一种结果作出声称。LibreChat 的自定义端点参考要求 name、apiKey、baseURL 和 models,并增加了 AnythingLLM 没有文档化对应项的选项:provider: anthropic 将同一个区块通过原生 Anthropic 客户端路由,但代价是必须手动列出模型 ID,因为“原生 Anthropic 自定义端点不使用 OpenAI 风格的 models.fetch”。如果允许每个用户提供自己的端点,还要注意另一个限制:使用 baseURL: "user_provided" 时,LibreChat 不会将已配置的请求头模板转发到该目标。
成本可见性也不对称。LibreChat 将 tokenConfig 文档为定义自定义端点每百万单位费率和上下文窗口的配置,也是其上下文用量、成本明细和余额交易的输入——因此管理员需要像上文所述,按模型手动填写;AnythingLLM 没有自己的按模型费率表。两种产品都不应被当作你的账本。两者的设置文档均已发布:AnythingLLM 和 LibreChat。
月度费用估算示例
这是示例性的 token 计算,不是实测成本,也不是账单上限。假设一个工作区每月回答 600 个问题,每个问题发送 12,000 个输入 token,其中包括系统提示词、检索到的段落和简短历史记录,并返回 600 个输出 token。费率是当前 Kunavo 目录中每百万 token 的价格。右侧一栏将检索上下文加倍,以展示这里真正重要的杠杆——每个问题检索多少内容本身就是定价决策,而在两种产品中都相同。
| 模型 | 每 1M 个令牌的输入 / 输出 | 估算 | 估算,检索上下文加倍 |
|---|---|---|---|
| Claude Haiku 4.5 | $0.70 / $3.50 | $6.30 | $11.34 |
| GPT-5.6 Terra | $0.70 / $4.20 | $6.55 | $11.59 |
| Claude Sonnet 5 | $1.40 / $7.00 | $12.60 | $22.68 |
请将其与订阅费用一并阅读,而不是用它取代订阅费用。在这些假设下,Claude Haiku 4.5 的 token 成本为每月 $6.30,明显低于 AnythingLLM Cloud 每月 $50 的 Basic 层级——但两者并不可替代,因为该层级购买的是托管的私有实例,除此之外仍要求你自行提供密钥。自行托管 LibreChat 或 AnythingLLM Docker 实例,则意味着这 $50 转移为你自己的服务器账单。
Kunavo 目录金额是计费下限,而不是上限:上游报告费用后,账单取目录成本与上游成本乘以适用加价之间的较高者。缓存费用和外部工具不包含在本示例中。最低充值金额为 $10 的预付余额——这是资金最低要求,不是任务费用或订阅费。请参阅 计费详情,或者在选定客户端后创建 Kunavo 账户。若要深入了解任一方的支出明细,请参阅 AnythingLLM API 成本和 LibreChat API 成本。
正在权衡第三个选项?AnythingLLM 与 Open WebUI 对比以及 LibreChat 与 Open WebUI 对比,将以相同方式对比一个共享的替代方案。
常见问题
AnythingLLM 或 LibreChat,哪个更适合与文档聊天?
AnythingLLM 将检索视为产品的一部分,而 LibreChat 将其视为需要部署的服务。因此,对于个人用户把工具指向一个文件夹中的文件而言,AnythingLLM 是更短的路径:文档放入工作区,嵌入器在应用中运行,向量存储默认为内置 LanceDB;服务器 env 文件中还可选择 Chroma、Pinecone、pgvector、Weaviate、Qdrant、Milvus、Astra 和 Zilliz。LibreChat 的文档检索是一个独立的 FastAPI 服务,由 PostgreSQL 和 pgvector 数据库支持,通过 RAG_API_URL 和 EMBEDDINGS_PROVIDER 接入,并作为 file_search 能力提供给代理;这意味着更多组件,同时也能更好地控制索引存放位置及可搜索者。无论采用哪种方式,AnythingLLM 都有一个需要注意的问题:其文档称嵌入模型是系统级设置,而不是按工作区设置;在文档已建立索引后更改选择,意味着必须删除并重新嵌入。核查于 2026 年 9 月 21 日。
LibreChat 免费吗?是否有付费方案?
LibreChat 应用免费,其仓库 LICENSE 文件采用 MIT 许可。没有可购买的方案:2026 年 9 月 21 日核查时,librechat.ai/pricing 和 librechat.ai/enterprise 均返回 HTTP 404,也没有任何第一方页面列出层级、席位价格或企业版。两种情况经常被误认为是 LibreChat 定价。托管式 Code Interpreter API(code.librechat.ai)是独立服务,其定价页面目前称不接受新订阅。ClickHouse Agents 是基于 LibreChat 构建的 ClickHouse Cloud 产品,于 2026 年 6 月 9 日宣布进入公开测试,并在那里描述为完全托管在 ClickHouse Cloud 内——这是 ClickHouse 的产品,而不是 LibreChat 方案。第三方网站还经常重复 LibreChat 使用 ISC 许可;该字符串出现在 package.json 的 license 字段中,而 LICENSE 文件和 GitHub license 字段均称采用 MIT。
AnythingLLM 的费用是多少?
Desktop 应用可免费下载,Docker 自托管版本基于 MIT 许可免费使用。AnythingLLM Cloud 的定价页面列出三个层级,核查于 2026 年 9 月 21 日:Basic 为 $50/月,Pro 为 $99/月,Enterprise 为联系我们。它们均未公布席位、工作区、存储或文档配额。此外,还有 AnythingLLM Desktop Pro 许可证,它会移除 Desktop Magic 功能的每日限制,并要求 Windows 或 macOS 上的 Desktop v1.15.0 或更高版本;其价格在任何可访问的第一方页面上均未公布,唯一的结账链接需要通过反机器人验证才能访问,因此聚合网站引用的任何数字都没有官方来源。请注意,Cloud Pro 的 $99/月与 Desktop Pro 许可证是两个不同的产品,只是共享一个词。
AnythingLLM Cloud 是否支持 MCP 和自定义代理?
两者都不支持;比较中令人意外的是,付费层反而限制更多。AnythingLLM 官方 Cloud 限制页面称,由于安全问题,AnythingLLM 在托管云中不支持 MCP,也不支持自定义代理,并建议需要这些功能的用户使用 Desktop 或自托管实例。同一页面称,托管 Cloud 不提供内置 LLM,仅允许你运行并自行连接的本地 LLM 或受支持的云供应商;同时警告,内置嵌入器不会阻止你嵌入 5,000 页 PDF,但会导致实例崩溃。该限制明确针对自定义代理——页面称 AnythingLLM 支持自定义编码代理,只是不支持在托管云中使用;而 Cloud 定价页面宣传代理开箱即用。文档没有列出托管层运行哪些内置技能,因此请确认你计划依赖的具体技能。Desktop 和 Docker 自托管不受这些限制影响,并通过存储 plugins 目录中的 anythingllm_mcp_servers.json 文件配置 MCP。LibreChat 没有托管方案,因此不存在等效限制;它在 librechat.yaml 中配置 MCP 服务器,文档记录的传输选项为 stdio、sse、streamable-http 和 websocket。核查于 2026 年 9 月 21 日。
ClickHouse 收购后,LibreChat 仍在维护吗?
该仓库处于活跃状态且未归档;ClickHouse 自己于 2025 年 11 月 4 日发布的公告称,对于现有 LibreChat 部署,运营将保持不变,并将继续投资开源项目和社区。变化在于所有者是谁,以及应如何理解其发行版本。librechat.ai 首页的横幅称,LibreChat 将加入 ClickHouse,为开源 Agentic Data Stack 提供动力;ClickHouse 现在也发布了 ClickHouse Agents,这是一个基于 LibreChat 构建的托管服务。关于发行版本:没有可固定使用的稳定标签。GitHub 的 releases 列表显示每个发行版本都标记为 Pre-release,包括 2026 年 6 月 24 日发布的 v0.8.7;v0.8.8-rc3 于 9 月 15 日发布,是最新版本;而 /releases/latest 会重定向到列表,而不是解析到某个发行版本——因此如果你需要固定版本,应有意选择 Docker 标签,不要假设存在稳定发行版。核查于 2026 年 9 月 21 日。
我可以在同一个 API 密钥上同时运行 AnythingLLM 和 LibreChat 吗?
两者都接受兼容 OpenAI 的端点,因此一个网关密钥可以同时服务于两者;在同一个密钥上并行运行它们,也是决定使用哪一个的合理方式。不过,两者的配置并不等价。AnythingLLM 使用其 OpenAI(通用)提供商,该提供商自己的文档称其面向开发者,除非你知道自己在做什么,否则不应使用,并警告如果设置输入错误,可能无法按预期运行;模型 ID 需要手动输入。LibreChat 使用必需包含 name、apiKey、baseURL 和 models 的 endpoints.custom 区块,可以从端点获取模型列表,而不必手动列出 ID;还可以通过 provider: anthropic,将同一个区块路由到原生 Anthropic Messages 客户端——这是 AnythingLLM 没有文档化等价选项的协议方式。Kunavo 尚未对任一客户端进行运行时测试,因此请将两套已发布的配置视为配置参考,并在决定标准化使用其中一个之前,先用一个范围受限的任务确认其行为。
来源核查日期为 2026 年 9 月 21 日。撰写本页面时直接重新阅读的内容包括:anythingllm.com/cloud、AnythingLLM Cloud 限制、Desktop Pro、agent、MCP、Security and Access 和嵌入器配置文档、AnythingLLM 服务器环境示例、LibreChat 的自定义端点、界面、MCP 和 RAG API 参考、LibreChat releases 列表和 package.json、code.librechat.ai/pricing、librechat.ai/pricing 和 /enterprise 的 HTTP 状态、Code Interpreter 讨论,以及 ClickHouse 收购公告和 ClickHouse Agents beta 帖子。Kunavo token 费率来自实时目录,每个美元示例都是示例性 token 计算;Kunavo 尚未对任一客户端进行运行时测试——所链接的设置页面是配置参考,而不是兼容性测试。