這次搜尋中的每篇總覽文章，都是由銷售閘道的公司發布，而且每家公司都把自己排在最前面或接近最前面——本頁也不例外，因此請將下方排序視為它實際代表的內容。更有用的修正是：這些清單比較的是彼此不可替代的產品。「LLM 閘道」至少涵蓋四種不同事物：轉售模型存取權並代您保管供應商憑證的閘道、透過您自行持有的帳戶進行路由的代管控制平面、部署至自有基礎架構中的 proxy，以及在您的金鑰前方提供快取與限制的邊緣 proxy。混合這些類別的功能表會把您引向錯誤的產品類型。請先選擇類別；類別內的選擇通常很容易。
立場聲明：Kunavo 是我們的產品，而且只在下方四種類別中的其中一類競爭。在其他三類中，我們不是選項；若情況如此，本頁會明確說明。
四種類別
| 類別 | 誰持有供應商帳戶 | 在以下情況選擇它 | 範例 |
|---|---|---|---|
| 轉售存取權閘道 | 閘道 | 您想要一張帳單，而且完全不想管理供應商帳戶 | Kunavo、OpenRouter、AIMLAPI |
| 代管控制平面（自帶金鑰） | 您 | 您已有帳戶，並希望取得路由、治理與可觀測性 | Portkey、TrueFoundry、Helicone、Braintrust 或 orq.ai |
| 自行託管的 proxy | 您 | 提示文字不能離開你的基礎架構 | LiteLLM、MLflow AI Gateway |
| 邊緣 proxy | 您 | 您只想要快取、速率限制與分析功能 | Cloudflare AI Gateway |
區分問題在於誰持有供應商憑證。這項單一事實決定您要為什麼付費、金鑰外洩時由誰承擔責任、是否能使用協商過的供應商費率，以及您需要營運系統的程度。其他一切——路由政策、快取、儀表板——每種類別都具備，其區別遠不如行銷所暗示的那麼大。
1. 轉售存取權閘道——不需要供應商帳戶
閘道持有上游憑證，並依使用量向您收費，因此您不需要在 Anthropic、Google 或 OpenAI 註冊任何帳戶。當您要解決的是採購與設定，而不是控制權時，這就是適合的類別：一組金鑰、一個餘額、一個 SDK。
Kunavo——一個 OpenAI 相容的 base URL，以及一組 sk-kn- 金鑰，可在 Claude 與 GPT 之間共用；影像、影片與音樂模型也使用相同餘額，且目錄中的大多數模型定價低於供應商官方費率。它不會路由您自己的供應商金鑰；如果自帶金鑰是必要條件，整個類別都不適合。定價 · 快速入門
OpenRouter——廣度取向的選項：來自大量供應商集合的數百個模型共用一個錢包，提供免費方案，以及此類別多數產品缺少的自帶金鑰路由。當目錄廣度比單位價格更重要時，請選擇它而非 Kunavo。Kunavo 與 OpenRouter 比較 · 完整的 OpenRouter 總覽
AIMLAPI——使用一組金鑰彙整文字與媒體模型，形式與上述兩者相同。Kunavo 與 AIMLAPI 比較
2. 代管控制平面——您保留帳戶
您持有供應商憑證；平台在其上加入路由、備援、護欄、支出治理與可觀測性，而且不需要由您執行。這是適合擁有協商過的供應商合約團隊的類別，因為這些費率的價值高於任何轉售商能列出的價格。Kunavo 在此不是選項——我們是基於設計而持有上游憑證，這正好是相反的安排。
Portkey 是我們評估過的產品（Kunavo 與 Portkey 比較）；Helicone 位於同一範疇中偏向可觀測性的一端（Kunavo 與 Helicone 比較）。TrueFoundry、Braintrust 與 orq.ai 位於企業級的一端——SLA、稽核軌跡與評估工具。我們尚未評估這三者，因此將它們放入此類別並提供連結，而不進行排名；而且它們每一家都在這次搜尋中把自己排在第一位。
3. 自行託管的 proxy——您執行軟體
部署至您自有基礎架構中的開源 proxy，並置於您自己的供應商金鑰前方。LiteLLM 是預設選擇，而 MLflow AI Gateway 是最接近的同類方案。當提示文字不能離開您的基礎架構時，請選擇此類別——其他三種類別中的任何代管式選項都無法在任何價格下滿足這項限制。
成本很實在，也值得明確說明：自行託管的 proxy 是建置中的套件，因此會將您的 CI/CD 與叢集納入其影響範圍。對此特定類別而言，這不是假設情境——2026 年 3 月 LiteLLM 供應鏈事件就是實際案例，其中也包括 LiteLLM 之後所做的變更。
4. 邊緣代理程式 — 僅快取與限制
Cloudflare AI Gateway 在您現有的供應商帳戶前方加入回應快取、速率限制、重試與分析功能，且不轉售推論服務。它可以與其他三個類別中的任何一個組合使用，而非取代其中任何一個 — 團隊通常會將它部署在轉售存取權的閘道前方。Kunavo 與 Cloudflare AI Gateway 比較
一次判斷如何選擇
- 提示文字可以離開您的基礎架構嗎？ 不可以 → 類別 3，並停止閱讀。可以 → 繼續。
- 您是否有協商過的供應商費率或承諾消費額？ 有 → 類別 2，因此您可以繼續使用它們。沒有 → 繼續。
- 您是否想持有供應商帳戶？ 不想 → 類別 1。想 → 類別 2。
- 您是否需要在同一組金鑰上使用圖片、影片或音樂？ 這比任何其他條件都能更快縮小選擇範圍 — 請在比較其他項目之前先確認。
- 如果快取或邊緣速率限制是真正的需求，就在您選定的任何方案之上加入類別 4；它不是其他方案的替代選項。
這些清單都遺漏了什麼
始終有兩件事。第一件是上游供應商失效時會發生什麼：每個閘道都宣稱支援容錯移轉，但很少公開實際做法 — 路由鏈、逾時設定，以及失敗的請求是否會計費。閘道應該替您處理什麼才是值得追問的功能集合，而答案應該具體明確。
第二件是遷移成本。類別 1、2 和 4 中的每項產品都使用 OpenAI 線路協定，因此切換只需要base_url和金鑰替換 — 這代表供應商綁定程度低，決策的重要性遠低於九項比較表所暗示的程度。OpenAI 相容 API 指南包含線路層級的詳細資訊。
常見問題
哪個 LLM 閘道最好？
沒有單一的最佳選擇，因為「LLM 閘道」這個名稱涵蓋四種彼此不可替代的產品。如果您完全不想管理供應商帳戶，Kunavo 或 OpenRouter 這類轉售存取權的閘道屬於適合的類別。如果您已擁有供應商帳戶，並希望在其上進行路由與治理，Portkey 或 TrueFoundry 這類代管控制平面才適合。如果您想自行執行軟體，則可選 LiteLLM 或 MLflow AI Gateway。如果您只想在自己的金鑰前方加入快取、速率限制與分析功能，則可選 Cloudflare AI Gateway。請先選擇類別，再比較功能表。
什麼是 LLM 閘道？
LLM 閘道是位於您的應用程式與一個或多個模型供應商之間的單一端點，因此您的程式碼只需串接一個 API 與一組金鑰，而不必為每個供應商各自設定一組。除了這項共通定義之外，各產品的差異很大：有些產品轉售模型存取權，並代您保管供應商憑證；有些產品透過您自行持有的供應商帳戶路由請求；另一些則是您部署至自有基礎架構中的函式庫。
LLM 閘道與 LLM 路由器有何差異？
實務上，這兩個術語通常可以互換使用，而且多數以路由器行銷的產品，都是具備路由功能的閘道。如果要區分兩者，「路由器」強調依每個請求在模型或供應商之間進行選擇——依據成本、延遲或可用性；「閘道」則強調作為單一入口，同時處理驗證、支出限制、記錄與容錯移轉。採購決策很少會取決於名稱。
如果我只使用一家供應商，需要 LLM 閘道嗎？
通常不需要路由功能，而路由正是多數閘道的主要價值。一家供應商與一組金鑰代表沒有需要在其間路由的對象。即使只有一家供應商仍適用的理由包括支出上限、請求記錄、在團隊內分發金鑰，以及在第一家供應商發生中斷的當天切換至第二家供應商——最後一項其實代表您需要不只一家供應商，也會讓路由重新變得必要。
開源 LLM 閘道比代管式閘道更好嗎？
兩者回應的是不同的限制，而不是彼此排名。開源且自行託管代表提示文字永遠不會離開您的基礎架構，您也可以閱讀並修補程式碼；代價是必須執行與修補服務——自行託管的 proxy 是建置中的套件，因此會將您的 CI/CD 與叢集納入其影響範圍。代管式閘道移除了這項營運負擔，但帶來另一種暴露：您的金鑰與提示文字會經過第三方。受法規管制的資料通常會使選擇傾向自行託管。
哪個 LLM 閘道最便宜？
最便宜的安排取決於您詢問的是帳單的哪一部分。自帶金鑰工具（LiteLLM、Portkey、Helicone、Cloudflare）幾乎不會增加推論成本，因為您仍支付自己的供應商費率——閘道收取的是控制平面的費用，而不是 token 費用。轉售存取權的閘道則自行設定單價：Kunavo 列出的大多數模型都低於供應商官方費率——Claude Sonnet 4.6 每 1M token 為 $2.10 / $10.50，而 Anthropic 的費率為 $3.00 / $15.00。如果您擁有協商過的供應商合約，自帶金鑰幾乎總是更划算；如果您目前支付公開牌價，低於牌價的轉售商可能比使用自己的帳戶更便宜。
哪些 LLM 閘道支援影像、影片與音訊模型？
各供應商的支援範圍不同且經常變動，因此請針對所需的特定模型逐一查看各目錄，不要只相信類別標籤。Kunavo 使用同一組金鑰與餘額提供影像、影片和音樂模型，以及聊天模型；OpenRouter 的文件則說明了聊天之外的影像、影片與語音端點。如果必須用一組金鑰處理多模態需求，先檢查這點，比任何其他條件都能更快縮小選擇範圍。