搜索结果中的每一篇汇总文章都由销售网关的公司发布，而且每家公司都会把自己排在最前或接近最前——本页面也一样，因此请按其实际情况理解下面的排序。更有用的修正是：这些列表比较的是彼此不可替代的产品。“LLM 网关”至少涵盖四种不同事物：转售模型访问权限并代你保管供应商凭据的网关、通过你自己持有的账户进行路由的托管控制平面、部署到自己基础设施中的代理，以及在你的密钥前面添加缓存和限制的边缘代理。将它们混在一张功能表中，会把你引向错误的产品形态。先选择类别；在同一类别内进行选择通常很容易。
偏向声明：Kunavo 是我们的产品，并且只参与以下四个类别中的一个。对于另外三个类别，我们不是可选项，页面也会在适用处明确说明。
四个类别
| 类别 | 谁持有提供商账户 | 在以下情况下选择它 | 示例 |
|---|---|---|---|
| 转售访问网关 | 网关 | 你想要一张账单，并且完全不想拥有供应商账户 | Kunavo、OpenRouter、AIMLAPI |
| 托管控制平面（自带密钥） | 你 | 你拥有账户，并希望获得路由、治理和可观测性 | Portkey、TrueFoundry、Helicone、Braintrust 或 orq.ai |
| 自托管代理 | 你 | 提示词文本不能离开你的基础设施 | LiteLLM、MLflow AI Gateway |
| 边缘代理 | 你 | 你只想要缓存、速率限制和分析 | Cloudflare AI Gateway |
区分问题是谁持有供应商凭据。这一个事实决定了你为什么付费、密钥泄露时谁承担责任、能否使用协商后的供应商费率，以及你需要运营系统的多少部分。其他所有内容——路由策略、缓存、仪表板——每个类别都有，其差异远没有营销所暗示的那么大。
1. 转售访问网关——无需供应商账户
网关持有上游凭据并按使用量向你收费，因此无需在 Anthropic、Google 或 OpenAI 注册。这是当你要解决的是采购和设置而非控制问题时应选择的类别：一个密钥、一个余额、一个 SDK。
Kunavo——一个 OpenAI 兼容的基础 URL 和一个 sk-kn- 密钥，可在 Claude 和 GPT 以及图像、视频和音乐模型之间共享同一余额；目录中的大多数模型都以低于供应商官方费率的价格列出。它不会路由你自己的供应商密钥；如果自带密钥是硬性要求，那么整个类别都不适合你。定价 · 快速入门
OpenRouter——覆盖范围选项：来自大量供应商的一百多个模型共用一个钱包，提供免费层级，并支持该类别大多数产品缺少的自带密钥路由。当模型目录的长尾覆盖比单位价格更重要时，应选择它而不是 Kunavo。Kunavo 与 OpenRouter 的比较 · 完整的 OpenRouter 汇总
AIMLAPI——使用一个密钥聚合文本和媒体模型，形态与上面两个产品相同。Kunavo 与 AIMLAPI 的比较
2. 托管控制平面——账户由你持有
供应商凭据由你持有；平台在此基础上增加路由、故障回退、护栏、支出治理和可观测性，而你无需自行运行它。这是拥有协商后供应商合同的团队应选择的类别，因为这些费率的价值高于转售商能够列出的任何价格。Kunavo 不属于此类别——我们按设计持有上游凭据，这与该模式正好相反。
Portkey是我们评估过的产品之一（Kunavo 与 Portkey 的比较）；Helicone位于同一范围内更偏向可观测性的一端（Kunavo 与 Helicone 的比较）。TrueFoundry、Braintrust 和 orq.ai处于企业级一端——SLA、审计轨迹和评估工具。我们尚未评估这三者，因此将它们归入该类别并提供链接，而不进行排名；它们中的每一家都会在该搜索中把自己排在第一位。
3. 自托管代理——软件由你运行
部署到自己基础设施中的开源代理，位于你自己的供应商密钥之前。LiteLLM是默认选择，MLflow AI Gateway是最接近的同类产品。当提示文本不能离开你的基础设施时，应选择此类别——这是其他三个类别中的任何托管选项都无法满足的约束，无论价格如何。
成本是实际存在的，也值得明确说明：自托管代理是构建中的一个软件包，因此你的 CI/CD 和集群都会处于其影响范围内。对于这一特定类别，这并非假设——2026 年 3 月的 LiteLLM 供应链事件就是一个实际示例，其中包括 LiteLLM 之后做出的更改。
4. 边缘代理——仅缓存和限制
Cloudflare AI Gateway在你已有的供应商账户前面增加响应缓存、速率限制、重试和分析功能，不转售推理服务。它可以与其他三个类别中的任意类别组合，而不是取代其中一个——团队通常会将它运行在转售访问网关之前。Kunavo 与 Cloudflare AI Gateway 的比较
一次完成选择
- 提示文本能否离开你的基础设施？不能 → 类别 3，停止阅读。可以 → 继续。
- 你是否拥有协商后的供应商费率或承诺支出？是 → 类别 2，继续使用这些费率。否 → 继续。
- 你是否愿意持有供应商账户？不愿意 → 类别 1。愿意 → 类别 2。
- 你是否需要使用同一个密钥提供图像、视频或音乐？这一点比其他任何标准都能更快缩小选择范围——在比较其他内容之前先核对它。
- 如果缓存或边缘速率限制确实是实际需求，就在你选择的任何类别之上添加类别 4；它不是其他类别的替代方案。
这些列表都遗漏了什么
始终有两点。第一是上游供应商失败时会发生什么：每个网关都宣传故障转移，但很少有网关公布实际做法——路由链、超时时间，以及失败请求是否计费。网关应为你处理的事项才是值得深入追问的功能集，而答案应当具体明确。
第二是迁移成本。类别 1、2 和 4 中的每个产品都使用 OpenAI 网络协议，因此切换只需更换 base_url 和密钥——这意味着锁定程度很低，决策的重要性远没有九项比较表所暗示的那么高。OpenAI 兼容 API 指南介绍了网络层面的细节。
常见问题
哪个 LLM 网关最好？
不存在唯一的最佳选择，因为“LLM 网关”这个名称涵盖了四类并不可相互替代的产品。如果你完全不想拥有供应商账户，那么 Kunavo 或 OpenRouter 这类转售访问网关属于目标类别。如果你已经拥有供应商账户，并希望对其进行路由和治理，那么 Portkey 或 TrueFoundry 这类托管控制平面更合适。如果你想自行运行软件，则应选择 LiteLLM 或 MLflow AI Gateway。如果你只想在自己的密钥前面添加缓存、速率限制和分析功能，则应选择 Cloudflare AI Gateway。先选择类别，再比较功能表。
什么是 LLM 网关？
LLM 网关是位于你的应用与一个或多个模型供应商之间的单一端点，因此你的代码只需面向一个 API 和一个密钥，而不是每个供应商各使用一个。除了这一共同定义之外，各产品差异很大：有些产品转售模型访问权限并代你保管供应商凭据，有些产品通过你自己持有的供应商账户路由请求，还有一些产品是由你部署到自己基础设施中的库。
LLM 网关和 LLM 路由器有什么区别？
实际使用中，这两个术语可以互换，大多数以路由器为市场定位的产品都是带有路由功能的网关。如果要区分，“路由器”强调按请求在模型或供应商之间进行选择——依据可能是成本、延迟或可用性；“网关”强调作为单一入口，同时处理身份验证、支出限制、日志记录和故障转移。采购决策很少会取决于这个名称。
如果我只使用一家供应商，还需要 LLM 网关吗？
通常不需要路由功能，而路由正是大多数网关存在的理由。只有一家供应商和一个密钥，就没有需要在其间进行路由的对象。单一供应商场景下仍然适用的理由包括支出上限、请求日志记录、在团队中分发密钥，以及在第一家供应商发生故障的那一天切换到第二家供应商——最后一点本身就说明你需要不止一家供应商，而这会再次带回路由需求。
开源 LLM 网关比托管网关更好吗？
它们解决的是不同约束，而不是彼此排名。开源且自托管意味着提示文本永远不会离开你的基础设施，并且你可以阅读和修改代码；代价是需要运行和维护服务——自托管代理是构建中的一个软件包，因此你的 CI/CD 和集群都会处于其影响范围内。托管网关移除了这部分运维负担，但带来了另一种暴露：你的密钥和提示文本会经过第三方。受监管数据通常会使选择倾向于自托管。
哪个 LLM 网关最便宜？
最便宜的方案取决于你询问账单的哪一部分。自带密钥工具（LiteLLM、Portkey、Helicone、Cloudflare）几乎不会增加推理成本，因为你仍然按自己的供应商费率付费——网关收取的是控制平面费用，而不是令牌费用。转售访问权限的网关会设定自己的单位价格：Kunavo 列出的大多数模型价格都低于供应商官方费率——Claude Sonnet 4.6 每 1M 个令牌的价格为 $2.10 / $10.50，而 Anthropic 的价格为 $3.00 / $15.00。如果你与供应商签订了经协商的合同，自带密钥几乎总是更划算；如果你目前支付的是公开目录价格，价格低于目录价的转售商可能比你自己的账户更便宜。
哪些 LLM 网关支持图像、视频和音频模型？
各供应商的覆盖范围不同且变化频繁，因此应将所需的具体模型与每个目录逐一核对，而不要相信类别标签。Kunavo 使用同一个密钥和余额提供图像、视频和音乐模型以及聊天模型，OpenRouter 的文档也介绍了聊天之外的图像、视频和语音端点。如果多模态能力必须使用同一个密钥，先核对这一点会比其他任何标准更快缩小选择范围。