在自託管的 AutoGPT Platform 上,AutoPilot 聊天代理可使用你提供的任何 OpenAI 相容端點 — 在容器上設定四個環境變數。我們於 2026 年 10 月 1 日以這種方式執行 v0.8.2 的官方單容器映像,連接至記錄用替代端點:一次聊天回合與三次工具往返均完成,AutoPilot 寫入的工作區檔案也透過 API 讀回。託管的 agpt.co 服務不接受自訂端點,代理圖中的 AI Text Generator 區塊也不接受。
如需了解 AutoGPT 的整體費用 — 託管方案、額度、自託管 — 請參閱 AutoGPT 定價。如果你要離開 AutoGPT,請查看 AutoGPT 替代方案。本頁本身就是自訂端點的使用方式。
哪些部分可以使用你的端點,哪些不行
| AutoGPT 的部分 | 接受自訂端點? | 依據 |
|---|---|---|
| AutoPilot 聊天,自託管 | 是 — CHAT_BASE_URL | 在 v0.8.2 上執行:聊天與工具呼叫均完成 |
| 對話標題 | 是,相同端點與模型 | 執行中看到:每個工作階段一次簡短的非串流呼叫 |
| Builder dry-run 模擬器、入門流程擷取 | 是,依據 AutoGPT 指南 | 有文件記載;本次未測試 |
| Graphiti 記憶體 | 相同 base URL,使用自己的模型(GRAPHITI_*_MODEL) | 執行中看到:/v1/responses,以及每回合一次 embedding 呼叫 |
| 市場語義搜尋 | 相同 base URL,STORE_EMBEDDING_MODEL(必須回傳 1,536 維向量) | 執行中看到:啟動時 200 次 embedding 呼叫 |
| 代理圖中的 AI Text Generator 區塊 | 否 — 固定供應商;只能設定 Ollama 原生主機 | v0.8.2 原始碼 |
| 託管的 agpt.co | 否 | AutoGPT 指南:雲端部署會忽略這些變數 |
設定方式
AutoGPT 將其稱為 local 傳輸,因為 Ollama 是通常的目標,但 CHAT_BASE_URL 只是一個 URL — 其指南將受管理的 OpenAI 相容 API 列為可運作的形式之一。四個變數很重要:CHAT_USE_LOCAL=true、以 /v1 結尾的 CHAT_BASE_URL、CHAT_API_KEY(必要 — 該傳輸不會刻意回退至 OpenAI 金鑰),以及作為純模型 ID 的 CHAT_FAST_STANDARD_MODEL。如果不設定進階、標題與模擬模型,AutoGPT 會從標準模型推導它們,因此不會有僅限雲端的名稱傳到你的端點。
docker run -d --name autogpt \
--shm-size 2g --ulimit nofile=65536:65536 \
-p 127.0.0.1:3000:3000 \
-e AUTOGPT_PUBLIC_URL=http://localhost:3000 \
-e CHAT_USE_LOCAL=true \
-e CHAT_BASE_URL=https://api.kunavo.com/v1 \
-e CHAT_API_KEY=sk-kn-... \
-e CHAT_FAST_STANDARD_MODEL=claude-haiku-4-5 \
-e CHAT_FAST_ADVANCED_MODEL=claude-sonnet-5 \
-v autogpt-data:/data \
significantgravitas/autogpt:v0.8.2
# Compose installs put the same four CHAT_* lines in autogpt_platform/backend/.env.
# Check them inside the running container:
docker exec autogpt env | grep ^CHAT_在 Docker 內部,localhost 指的是容器,而不是你的機器:在主機上的端點,在 Docker Desktop 中應使用 http://host.docker.internal:<port>/v1,這也是本次執行連接至替代端點的方式。像 Kunavo 這樣的託管端點不需要特殊網路設定。第一次啟動會執行資料庫遷移,需時數分鐘;請等待容器回報健康狀態。
一次回合傳送的內容 — 實測
| 請求 | 大小 | 備註 |
|---|---|---|
POST /v1/chat/completions,一次回合的第一次呼叫 | 41,876 位元組 | 串流;16 個工具 — 包括 bash_exec、web_fetch、run_agent、write_workspace_file;僅有 messages、model、stream、tools 這些本文欄位 |
| 相同內容,工具結果之後 | 42,677 位元組 | 四則訊息:附加工具呼叫及其結果 |
| 標題 | 約 0.6 KB | 非串流,每個工作階段一次,使用相同模型 |
| Graphiti 記憶體 | 每回合 | POST /v1/responses,搭配預設的 Ornith 模型名稱,以及針對 nomic-embed-text 的 embedding 呼叫 |
| 內容視窗探測 | 每個工作階段 | GET /api/ps, /props, /api/v0/models, /v1/models |
三次執行的大小完全相同。這些是替代端點的請求位元組,不是供應商的 token 計數。請求格式是純 OpenAI Chat Completions — 沒有供應商擴充,因此聊天路徑只需要能提供串流工具呼叫的端點。
需要預留的側向流量
上述所有請求都前往相同的 base URL。如果你的端點是聊天閘道,而不是完整的本機堆疊,會有兩項後果。Embedding:市場索引在啟動時請求 text-embedding-3-small 200 次,Graphiti 每回合請求 nomic-embed-text;沒有 embedding 模型的端點會回傳 404,儲存搜尋會退回僅限詞彙模式,記憶體擷取會記錄 traceback — 聊天本身不受影響。Kunavo 不提供 embedding 模型,因此在 Kunavo 上這是預期狀態。記憶體模型名稱:Graphiti 的 /v1/responses 呼叫會使用自己的預設模型名稱,除非將 GRAPHITI_LLM_MODEL 與 GRAPHITI_RERANKER_MODEL 設為端點提供的模型。
每回合成本
作為粗略計算,不代表帳單:一次工具回合透過兩次呼叫傳送 84,553 位元組 — 以每個 token 四個字元計算,約為 21,138 個輸入 token — 另加數百個輸出 token;我們假設 600。
| 透過 Kunavo 使用模型 | 每 1M 輸入 / 輸出費率 | 一次工具回合 |
|---|---|---|
| Claude Haiku 4.5 | $0.70 / $3.50 | $0.017 |
| Claude Sonnet 5 | $1.40 / $7.00 | $0.034 |
對話會增長,因此後續回合會傳送更多內容。Kunavo 依預付餘額按 token 計費,最低加值額為 $10,且無訂閱(計費);目錄金額是計費下限,而不是上限。Kunavo 沒有人使用其自身端點執行過 AutoGPT — 本次執行使用的是本機替代端點 — 因此請在你的使用量日誌中查看第一次回合的費用。
常見問題
AutoGPT 可以使用自訂 API 端點嗎?
可以,但僅限產品的一個部分,且必須自行託管。在自託管的 AutoGPT Platform 上,AutoPilot 聊天代理可透過 CHAT_USE_LOCAL=true、CHAT_BASE_URL、CHAT_API_KEY 與 CHAT_FAST_STANDARD_MODEL 使用任何 OpenAI 相容端點。我們在 2026 年 10 月 1 日以這種方式執行 v0.8.2 的官方單容器映像,連接至本機替代端點:一次聊天回合與三次工具往返均完成,AutoPilot 寫入的檔案也透過工作區 API 讀回。託管的 agpt.co 服務會忽略這些變數,代理圖中的 AI Text Generator 區塊也不會讀取它們。
AI Text Generator 區塊會使用 CHAT_BASE_URL 嗎?
不會。AutoGPT 自己的指南指出,AutoPilot 聊天路徑與區塊層讀取不同的變數。在 v0.8.2 原始碼中,區塊層的 OpenAI 與 Anthropic 用戶端建立時未設定 base URL;該層唯一可設定的主機是 Ollama 原生 API 的 Ollama 主機。因此,呼叫 AI Text Generator 區塊的代理圖仍會使用 AutoGPT 隨附的供應商,不論 CHAT_BASE_URL 的值為何。
AutoGPT 最佳或最便宜的 API 是什麼?
For the self-hosted chat path, the cheapest is a model you run yourself — AutoGPT's guide uses Ollama — and the cheapest metered option is whichever OpenAI-compatible endpoint serves a capable tool-calling model at the lowest rate. Each tool turn in our run sent about 85 KB across two chat calls with 16 tool definitions, roughly 21,000 input tokens at four characters per token; at Kunavo's Claude Haiku 4.5 rates that is about $0.017 a turn, and about $0.034 on Claude Sonnet 5. Cheapest listed rate and cheapest finished task are different questions: a model that fumbles tool calls costs more turns.
為什麼我的 AutoGPT 端點會收到 embedding 與 /v1/responses 請求?
因為其他功能也會沿用相同的 base URL。在我們的執行中,端點在啟動時收到 200 個針對 text-embedding-3-small 的 embedding 請求(市場的語義索引);每次聊天回合後,Graphiti 記憶體會使用其預設模型名稱發送 /v1/responses 請求,並針對 nomic-embed-text 發送 embedding 請求。沒有這些模型的端點會回傳 404;聊天仍可運作,但容器會記錄 Graphiti traceback。請將 GRAPHITI_LLM_MODEL、GRAPHITI_RERANKER_MODEL 與 GRAPHITI_EMBEDDER_MODEL 設為端點提供的模型,或接受降級記憶體與僅限詞彙的儲存搜尋。
如何確認 AutoPilot 確實使用我的端點?
三項檢查,全部來自 AutoGPT 指南,且我們的執行中也都看到了:使用 docker exec 進入容器,並 grep 環境中的 CHAT_;傳送一次聊天回合,查看日誌中是否出現「Using baseline service」;確認你的端點日誌記錄了使用你所設定模型的串流 /v1/chat/completions 請求。在第一次回合前,AutoPilot 也會探測 /api/ps、/props、/api/v0/models 與 /v1/models 以了解內容視窗;根據指南,回報沒有內容視窗的端點會回退至 32k。
執行於 2026 年 10 月 1 日:significantgravitas/autogpt:v0.8.2(arm64 映像,sha256:8322941548c6…)在 Docker Desktop 上執行,AutoPilot 透過自身聊天 API 驅動,使用一次性本機帳戶,連接至本機記錄用替代端點;該端點先回應一次工具呼叫,再回應文字。三次工具往返全部完成;寫入的檔案透過工作區 API 讀回。執行之外的行為來自 AutoGPT 的 copilot-local-llm 指南與 v0.8.2 原始碼。替代端點不是供應商,也不是 Kunavo。