Quay lại hướng dẫn
Thiết lập·1 tháng 10, 2026·Đọc 7 phút

API tùy chỉnh AutoGPT: chạy AutoPilot tự lưu trữ trên endpoint tương thích OpenAI của riêng bạn

Bốn biến môi trường chuyển AutoPilot chat sang endpoint riêng của bạn trong một bản cài đặt tự lưu trữ. Lớp block và dịch vụ lưu trữ không đi theo — còn các lệnh gọi embedding và memory lại đến cùng URL.

Được xem xét lần cuối vào .

Trên AutoGPT Platform tự lưu trữ, tác nhân trò chuyện AutoPilot chạy được trên bất kỳ endpoint tương thích OpenAI nào bạn cung cấp — bốn biến môi trường, được đặt trên container. Chúng tôi đã chạy image chính thức single-container của v0.8.2 theo cách đó, kết nối với một stand-in ghi nhận vào ngày 1 tháng 10 năm 2026: một lượt trò chuyện và ba vòng khứ hồi công cụ đã hoàn tất, đồng thời tệp workspace do AutoPilot ghi đã được đọc lại qua API. Dịch vụ agpt.co được lưu trữ không nhận endpoint tùy chỉnh, và khối AI Text Generator bên trong các đồ thị tác nhân cũng vậy.

Để biết tổng chi phí AutoGPT — các gói lưu trữ, credit, tự lưu trữ — hãy xem giá AutoGPT. Nếu bạn rời AutoGPT, hãy xem các lựa chọn thay thế AutoGPT. Trang này chính là lộ trình endpoint tùy chỉnh.

Những gì có thể và không thể sử dụng endpoint của bạn

Một phần của AutoGPTCó nhận endpoint tùy chỉnh không?Cơ sở
Trò chuyện AutoPilot, tự lưu trữCó — CHAT_BASE_URLChạy trên v0.8.2: trò chuyện và lệnh gọi công cụ đã hoàn tất
Tiêu đề cuộc trò chuyệnCó, cùng endpoint và modelĐược thấy trong lần chạy: một lệnh gọi không streaming ngắn cho mỗi phiên
Trình mô phỏng dry-run của Builder, trích xuất onboardingCó, theo hướng dẫn của AutoGPTĐược ghi chép; chưa được kiểm thử ở đây
Bộ nhớ GraphitiCùng base URL, các model riêng của nó (GRAPHITI_*_MODEL)Được thấy trong lần chạy: /v1/responses cùng một lệnh gọi embedding mỗi lượt
Tìm kiếm ngữ nghĩa trên marketplaceCùng base URL, STORE_EMBEDDING_MODEL (phải trả về vector 1.536 chiều)Được thấy trong lần chạy: 200 lệnh gọi embedding khi khởi động
Khối AI Text Generator trong các đồ thị tác nhânKhông — nhà cung cấp cố định; chỉ có thể đặt host cho API gốc của OllamaMã nguồn v0.8.2
agpt.co được lưu trữKhôngHướng dẫn của AutoGPT: triển khai trên cloud bỏ qua các biến này

Thiết lập

AutoGPT gọi đây là phương thức truyền tải local vì Ollama là đích đến thông thường, nhưng CHAT_BASE_URL chỉ là một URL — hướng dẫn riêng của nó liệt kê một API tương thích OpenAI được quản lý trong số các dạng hoạt động được. Có bốn biến quan trọng: CHAT_USE_LOCAL=true, CHAT_BASE_URL kết thúc bằng /v1, CHAT_API_KEY (bắt buộc — phương thức truyền tải cố ý không dự phòng về khóa OpenAI), và CHAT_FAST_STANDARD_MODEL dưới dạng model id thuần. Nếu bạn để trống các model nâng cao, tiêu đề và mô phỏng, AutoGPT sẽ suy ra chúng từ model tiêu chuẩn để không có tên chỉ dành cho cloud nào được gửi đến endpoint của bạn.

AutoGPT Platform v0.8.2, một container — các biến của lần chạy với giá trị của gateway; dòng mô hình nâng cao là tùy chọn
docker run -d --name autogpt \
  --shm-size 2g --ulimit nofile=65536:65536 \
  -p 127.0.0.1:3000:3000 \
  -e AUTOGPT_PUBLIC_URL=http://localhost:3000 \
  -e CHAT_USE_LOCAL=true \
  -e CHAT_BASE_URL=https://api.kunavo.com/v1 \
  -e CHAT_API_KEY=sk-kn-... \
  -e CHAT_FAST_STANDARD_MODEL=claude-haiku-4-5 \
  -e CHAT_FAST_ADVANCED_MODEL=claude-sonnet-5 \
  -v autogpt-data:/data \
  significantgravitas/autogpt:v0.8.2

# Compose installs put the same four CHAT_* lines in autogpt_platform/backend/.env.
# Check them inside the running container:
docker exec autogpt env | grep ^CHAT_

Từ bên trong Docker, localhost là container chứ không phải máy của bạn: endpoint trên host là http://host.docker.internal:<port>/v1 trên Docker Desktop, và đó là cách lần chạy đã kết nối được với stand-in của nó. Endpoint được lưu trữ như Kunavo không cần mạng đặc biệt. Lần khởi động đầu tiên chạy các migration cơ sở dữ liệu và mất vài phút; hãy chờ container báo healthy.

Một lượt gửi gì — đo được

Yêu cầuKích thướcGhi chú
POST /v1/chat/completions, lệnh gọi đầu tiên của một lượt41.876 byteStreaming; 16 công cụ — trong đó có bash_exec, web_fetch, run_agent, write_workspace_file; chỉ có các trường body messages, model, stream, tools
Tương tự, sau một kết quả công cụ42.677 byteBốn message: lệnh gọi công cụ và kết quả của nó được thêm vào
Tiêu đềKhoảng 0,6 KBKhông streaming, một lần mỗi phiên, cùng model
Bộ nhớ GraphitiMỗi lượtPOST /v1/responses với tên model Ornith mặc định, cùng một lệnh gọi embedding cho nomic-embed-text
Thăm dò context windowMỗi phiênGET /api/ps, /props, /api/v0/models, /v1/models

Kích thước giống hệt nhau theo byte trong cả ba lần chạy. Đây là số byte của yêu cầu từ một stand-in, không phải số token của nhà cung cấp. Dạng yêu cầu là OpenAI Chat Completions thuần — không có phần mở rộng của nhà cung cấp — vì vậy endpoint cung cấp lệnh gọi công cụ streaming là tất cả những gì đường dẫn trò chuyện cần.

Lưu lượng phụ cần dự trù

Mọi thứ ở trên đều đi đến cùng base URL. Có hai hệ quả nếu endpoint của bạn là cổng trò chuyện thay vì một stack cục bộ đầy đủ. Embeddings: chỉ mục marketplace yêu cầu text-embedding-3-small 200 lần khi khởi động, còn Graphiti yêu cầu nomic-embed-text mỗi lượt; endpoint không có model embedding sẽ trả về 404, tìm kiếm store chuyển sang chỉ dùng từ vựng, và việc trích xuất bộ nhớ ghi lại traceback — bản thân trò chuyện không bị ảnh hưởng. Kunavo không cung cấp model embedding, vì vậy trên Kunavo đó là trạng thái dự kiến. Tên model bộ nhớ: các lệnh gọi /v1/responses của Graphiti sử dụng tên model mặc định riêng của nó trừ khi GRAPHITI_LLM_MODEL và GRAPHITI_RERANKER_MODEL được đặt thành các model mà endpoint của bạn cung cấp.

Chi phí mỗi lượt

Phép tính gần đúng, không phải hóa đơn: một lượt có công cụ đã gửi 84.553 byte qua hai lệnh gọi — khoảng 21.138 token đầu vào với giả định bốn ký tự mỗi token — cộng thêm vài trăm token đầu ra; chúng tôi giả định 600.

Model qua KunavoMức giá cho mỗi 1M vào / raMột lượt có công cụ
Claude Haiku 4.5$0,70 / $3,50$0,017
Claude Sonnet 5$1,40 / $7,00$0,034

Các cuộc trò chuyện tăng lên, nên các lượt sau gửi nhiều hơn. Kunavo tính phí theo token từ số dư trả trước với mức nạp tối thiểu $10 và không có gói đăng ký (thanh toán); số tiền trong catalog là mức sàn thanh toán chứ không phải giới hạn tối đa. Chưa ai ở Kunavo chạy AutoGPT với endpoint của chính Kunavo — lần chạy ở đây dùng stand-in cục bộ — vì vậy hãy kiểm tra khoản phí của lượt đầu tiên trong nhật ký sử dụng của bạn.

Câu hỏi thường gặp

AutoGPT có thể sử dụng endpoint API tùy chỉnh không?

Có, đối với một phần của sản phẩm và chỉ khi bạn tự lưu trữ sản phẩm đó. Trên AutoGPT Platform tự lưu trữ, tác tử trò chuyện AutoPilot nhận mọi endpoint tương thích OpenAI thông qua CHAT_USE_LOCAL=true, CHAT_BASE_URL, CHAT_API_KEY và CHAT_FAST_STANDARD_MODEL. Chúng tôi đã chạy image chính thức một container của v0.8.2 theo cách đó vào ngày 1 tháng 10 năm 2026, hướng đến một endpoint thay thế cục bộ: một lượt trò chuyện và ba lượt trao đổi công cụ đã hoàn tất, đồng thời tệp do AutoPilot ghi đã được đọc lại qua workspace API. Dịch vụ agpt.co được lưu trữ bỏ qua các biến này, và khối AI Text Generator bên trong biểu đồ tác tử cũng không đọc chúng.

Khối AI Text Generator có sử dụng CHAT_BASE_URL không?

Không. Hướng dẫn riêng của AutoGPT cho biết đường dẫn trò chuyện AutoPilot và lớp khối đọc các biến khác nhau. Trong mã nguồn v0.8.2, các client OpenAI và Anthropic của lớp khối được tạo mà không có base URL, và host duy nhất bạn có thể đặt ở đó là host Ollama cho API gốc của Ollama — vì vậy các đồ thị tác nhân gọi khối AI Text Generator vẫn tiếp tục sử dụng các nhà cung cấp mà AutoGPT cung cấp, bất kể CHAT_BASE_URL có giá trị gì.

API tốt nhất hoặc rẻ nhất cho AutoGPT là gì?

Với đường dẫn trò chuyện tự lưu trữ, rẻ nhất là một mô hình bạn tự chạy — hướng dẫn của AutoGPT dùng Ollama — còn lựa chọn tính phí theo mức sử dụng rẻ nhất là endpoint tương thích OpenAI nào cung cấp một mô hình gọi công cụ thành thạo với mức giá thấp nhất. Trong lần chạy của chúng tôi, mỗi lượt có công cụ đã gửi khoảng 85 KB qua hai lệnh gọi trò chuyện với 16 định nghĩa công cụ, xấp xỉ 21.000 token đầu vào với giả định bốn ký tự mỗi token; theo mức giá của Kunavo cho Claude Haiku 4.5, chi phí khoảng $0,017 mỗi lượt, và khoảng $0,034 với Claude Sonnet 5. Mức giá niêm yết thấp nhất và tác vụ hoàn thành rẻ nhất là hai câu hỏi khác nhau: một mô hình thường xuyên bị lỗi khi gọi công cụ sẽ tốn thêm lượt.

Tại sao endpoint AutoGPT của tôi nhận các yêu cầu embedding và /v1/responses?

Vì các tính năng khác cũng sử dụng cùng base URL. Trong lần chạy của chúng tôi, endpoint nhận 200 yêu cầu embedding cho text-embedding-3-small khi khởi động (chỉ mục ngữ nghĩa của marketplace), và sau mỗi lượt trò chuyện, bộ nhớ Graphiti gửi một lệnh gọi /v1/responses sử dụng tên model mặc định của nó cùng một lệnh gọi embedding cho nomic-embed-text. Endpoint không có các model đó sẽ trả về 404; trò chuyện vẫn hoạt động, còn container ghi lại các traceback của Graphiti. Hãy đặt GRAPHITI_LLM_MODEL, GRAPHITI_RERANKER_MODEL và GRAPHITI_EMBEDDER_MODEL thành các model mà endpoint của bạn cung cấp, hoặc chấp nhận bộ nhớ suy giảm và chức năng tìm kiếm store chỉ dùng từ vựng.

Làm thế nào để kiểm tra AutoPilot thực sự đang sử dụng endpoint của tôi?

Ba bước kiểm tra, đều lấy từ hướng dẫn của AutoGPT và đều được thấy trong lần chạy của chúng tôi: dùng docker exec vào container rồi grep môi trường để tìm CHAT_; gửi một lượt trò chuyện và tìm "Using baseline service" trong log; đồng thời xác nhận endpoint của bạn đã ghi nhận một yêu cầu streaming /v1/chat/completions với model bạn đặt. Trước lượt đầu tiên, AutoPilot cũng thăm dò /api/ps, /props, /api/v0/models và /v1/models để biết context window; theo hướng dẫn, các endpoint báo không có giá trị sẽ dự phòng về 32k.

Chạy ngày 1 tháng 10 năm 2026: significantgravitas/autogpt:v0.8.2 (image arm64, sha256:8322941548c6…) trên Docker Desktop, AutoPilot được điều khiển qua API trò chuyện riêng của nó bằng một tài khoản cục bộ dùng một lần, kết nối với một stand-in ghi nhận cục bộ đã trả lời một lệnh gọi công cụ rồi trả về văn bản. Ba vòng khứ hồi công cụ, tất cả đều hoàn tất; tệp đã ghi được đọc lại qua workspace API. Hành vi ngoài lần chạy được lấy từ hướng dẫn copilot-local-llm của AutoGPT và mã nguồn v0.8.2. Stand-in không phải nhà cung cấp và không phải Kunavo.