什么是 AI gateway？LLM gateway 模式详解（2026）

AI 网关是位于多个模型提供商前面的单一 API 端点。你的应用无需分别集成 Anthropic、Google 和 OpenAI——无需三个 SDK、三个密钥和三张发票——而是使用一种请求格式、一个基础 URL 和一个密钥发送请求，网关会将其路由到正确的提供商。当重点是文本模型时，它也称为 LLM 网关。

AI 网关的作用

网关是应用与模型提供商之间的控制平面。核心职责包括：

何时需要一个

只要满足以下任一条件，就可以使用 AI 网关：

• 你调用不止一个模型或提供商。网关可以将“添加提供商”变成配置变更。
• 你希望进行故障转移。提供商的性能会下降；网关可以在无需重新部署的情况下绕开故障。
• 你需要成本控制和可见性。按密钥设置支出上限并记录使用量，比查看三个提供商的控制面板更有效。
• 你希望只有一张账单。使用一个钱包覆盖文本、图像、视频和音频，而不是为每个提供商开设账户。

对于一次性单模型原型，你可以直接调用提供商；但从网关后面开始，可以让之后的每次变更都只需修改一行。

两种 AI 网关

这个术语涵盖两种架构，它们分别解决问题的不同部分：

自带密钥网关在你现有的 Anthropic、Google 和 OpenAI 账户之上增加控制/可观测性层——你仍然持有这些密钥，并向每个提供商付费。推理网关则位于提供商本身之前：你只需充值一个余额，无需接触任何提供商控制台。关于自带密钥模式，请参阅 Kunavo 与 Portkey、Helicone 和 LiteLLM 的比较；关于边缘代理模式，请参阅Kunavo 与 Cloudflare AI Gateway；关于企业 API 管理模式，请参阅Kunavo 与 Kong AI Gateway；关于路由器的比较，请参阅Kunavo 与 OpenRouter。

作为 AI 网关的 Kunavo

Kunavo 是一个推理型 AI 网关。在 https://api.kunavo.com/v1 提供兼容 OpenAI wire 的接口，因此只要你的代码能够调用 OpenAI API，就可以只更改基础 URL 来调用 Kunavo。一个 sk-kn- bearer token 即可访问 Claude、GPT 以及目录中的其他模型——价格大约比提供商标价低 30%，从 $10 充值起按需付费，使用一个由 Stripe 计费的钱包。

from openai import OpenAI

# One gateway endpoint + one key reaches every provider.
client = OpenAI(
    api_key="sk-kn-...",
    base_url="https://api.kunavo.com/v1",  # the AI gateway
)

# Same request shape, different providers — just change the model.
for model in ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]:
    r = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": "One word: ready?"}],
    )
    print(model, "→", r.choices[0].message.content)

同一个密钥还可以调用原生的 Anthropic Messages API、图像、视频和音频生成——请参阅OpenAI 兼容 API 指南，了解 wire 格式如何让你在本地模型（Ollama）和托管模型之间切换而无需更改代码；首次调用请参阅快速入门。

常见问题