Tài liệu

Tài liệu

SillyTavern

Nguồn Custom (OpenAI-compatible) của SillyTavern cần URL cơ sở và khóa. Trỏ nguồn này đến Kunavo để Claude và GPT cùng xuất hiện trong một danh sách mô hình thả xuống.

Để kết nối SillyTavern với Kunavo, mở API Connections, đặt API thành Chat Completion và Chat Completion Source thành Custom (OpenAI-compatible), sau đó điền hai trường: Custom Endpoint = https://api.kunavo.com/v1 và Custom API Key = khóa sk-kn-… của bạn. Nhấn Connect; SillyTavern gọi GET /v1/models và điền danh sách mô hình thả xuống từ phản hồi.

Trường SillyTavernGiá trị
APIChat Completion
Nguồn Chat CompletionCustom (tương thích OpenAI)
Custom Endpoint (URL cơ sở)https://api.kunavo.com/v1
Custom API Keysk-kn-…
Mô hình khả dụngTự động điền sau khi Connect — chọn id bất kỳ
Hậu tố /v1 phải nằm trong trường này. Nguồn tùy chỉnh của SillyTavern theo quy ước OpenAI và chỉ nối thêm tuyến, vì vậy https://api.kunavo.com mà thiếu /v1 sẽ khiến kết nối thất bại và danh sách mô hình trống.

Từng bước

  1. Tạo khóa tại /app/keys rồi sao chép khóa — khóa chỉ hiển thị một lần.
  2. Trong SillyTavern, mở biểu tượng phích cắm (API Connections) trên thanh trên cùng.
  3. Đặt API → Chat Completion, sau đó đặt Chat Completion Source → Custom (OpenAI-compatible).
  4. Dán https://api.kunavo.com/v1 vào Custom Endpoint và dán khóa vào Custom API Key.
  5. Nhấn Connect. Trạng thái màu xanh lá và danh sách Available Models đã được điền nghĩa là kết nối thành công.
  6. Chọn một id mô hình trong danh sách thả xuống rồi bắt đầu trò chuyện. Sau này, bạn có thể chuyển mô hình mà không cần kết nối lại.

Tài liệu tham khảo riêng của SillyTavern cho màn hình này là trang kết nối API Chat Completions.

Kiểm tra trước khi gỡ lỗi giao diện

Chỉ cần một yêu cầu là có thể xác định lỗi nằm ở endpoint, khóa hay SillyTavern. Nếu yêu cầu này trả về danh sách id mô hình ở dạng JSON, cùng URL và khóa đó sẽ điền danh sách thả xuống.

# Confirms the key and the endpoint before you touch SillyTavern.
# A JSON list of model ids means the same URL will populate the dropdown.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

Nên chọn model nào

Bạn có thể truy cập mọi mô hình văn bản trên Kunavo từ cùng một danh sách thả xuống — danh sách đầy đủ có trên trang mô hình và được tải trực tiếp từ GET /v1/models. Giá tính bằng USD cho mỗi 1M token, theo thứ tự đầu vào / đầu ra.

ID mô hìnhKunavo vào / raPhù hợp ở đâu
claude-haiku-4-5$0.70 / $3.50Claude rẻ nhất — phù hợp với các phiên dài khi chi phí mỗi lượt quan trọng nhất
claude-sonnet-5$1.40 / $7.00Cân bằng mặc định giữa chất lượng và giá
claude-opus-5$3.50 / $17.50Cấp Claude có chất lượng cao nhất
claude-fable-5$7.00 / $35.00Khả năng suy luận tiên tiến với cửa sổ ngữ cảnh 1M token — lựa chọn phù hợp khi chính lịch sử trò chuyện là vấn đề
Trong một phiên SillyTavern dài, giới hạn dung lượng ngữ cảnh thường là trở ngại xuất hiện đầu tiên: toàn bộ lịch sử được gửi lại ở mỗi lượt, vì vậy chi phí token tăng theo cuộc trò chuyện thay vì giữ nguyên. Kunavo tính phí theo từng token từ số dư trả trước, không thu phí hằng tháng, nên tháng nào không sử dụng thì không tốn phí — xem chi tiết trong thanh toán; lưu bộ nhớ đệm lời nhắc là biện pháp có tác dụng lớn nhất khi dùng lại ngữ cảnh.

Khắc phục sự cố

Triệu chứngNguyên nhânCách khắc phục
Kết nối thất bại, danh sách mô hình vẫn trốngThiếu /v1 trong Custom EndpointSử dụng https://api.kunavo.com/v1. Xác nhận bằng lệnh curl ở trên.
401 / khóa không hợp lệKhóa được dán kèm khoảng trắng hoặc đã bị thu hồiSao chép lại từ /app/keys; xem 401 và 403
Phản hồi đến cùng lúc thay vì truyền theo luồngProxy đứng trước kết nối đang đệm server-sent eventsEndpoint hỗ trợ truyền dữ liệu theo luồng — lỗi truyền dữ liệu theo luồng
Id mô hình bị từ chốiEndpoint này không cung cấp id đóChọn từ danh sách thả xuống hoặc xem model_not_found
Chỉ có lỗi trong các cuộc trò chuyện dàiLịch sử đã vượt quá cửa sổ ngữ cảnh của mô hìnhRút gọn lịch sử hoặc chuyển sang mô hình có ngữ cảnh dài hơn — context_length_exceeded

Hai lưu ý thẳng thắn

Không liên kết

SillyTavern là một dự án mã nguồn mở độc lập và không liên kết với Kunavo. Trang này hướng dẫn một cấu hình hoạt động được vì SillyTavern hỗ trợ các endpoint tương thích OpenAI tùy ý — không có tùy chỉnh riêng nào ở cả hai phía.

Chính sách nội dung vẫn được áp dụng

Các yêu cầu qua Kunavo được gửi đến nhà cung cấp thượng nguồn, và mỗi nhà cung cấp thực thi chính sách sử dụng riêng đối với nội dung được gửi đến họ. Cổng trung gian không loại bỏ những giới hạn đó; trang nào nói ngược lại đều đang quảng cáo sai sự thật. Điều khoản riêng của Kunavo nằm trong chính sách sử dụng được chấp nhận.

Câu hỏi thường gặp

Làm cách nào để kết nối SillyTavern với endpoint API tùy chỉnh?

Trong SillyTavern, mở thẻ API Connections (biểu tượng phích cắm), đặt API thành Chat Completion và Chat Completion Source thành Custom (OpenAI-compatible). Nhập URL cơ sở tương thích OpenAI của cổng vào Custom Endpoint — với Kunavo, đó là https://api.kunavo.com/v1 — nhập khóa vào Custom API Key rồi nhấn Connect. Sau đó, SillyTavern gọi GET /v1/models trên endpoint đó và điền danh sách mô hình vào menu thả xuống từ phản hồi.

SillyTavern có hoạt động với mô hình Claude qua endpoint tương thích OpenAI không?

Có. Nguồn Custom (OpenAI-compatible) của SillyTavern chỉ cần một endpoint triển khai POST /v1/chat/completions, nên các mô hình Claude được cung cấp theo định dạng đó sẽ hoạt động mà không cần dùng nguồn Anthropic riêng của SillyTavern. Trên Kunavo, tất cả id mô hình Claude và GPT xuất hiện trong cùng một menu thả xuống dưới một khóa duy nhất; bạn không cần kết nối lại khi chuyển đổi giữa chúng.

Tính năng truyền dữ liệu theo luồng có hoạt động trong SillyTavern với endpoint tùy chỉnh không?

Truyền dữ liệu theo luồng hoạt động nếu endpoint triển khai server-sent events trên /v1/chat/completions; Kunavo có hỗ trợ. Nếu phản hồi chỉ đến dưới dạng một khối hoàn chỉnh, nguyên nhân thường gặp là proxy đứng trước kết nối đang đệm luồng dữ liệu chứ không phải do chính endpoint.

Vì sao danh sách mô hình trong SillyTavern trống sau khi kết nối?

Danh sách mô hình thả xuống trống trong SillyTavern có nghĩa là lệnh gọi GET /v1/models đã thất bại; đây là vấn đề về endpoint hoặc khóa, không phải SillyTavern. Hai nguyên nhân thường gặp là URL cơ sở thiếu hậu tố /v1 và khóa không hợp lệ với endpoint đó. Chạy curl với cùng khóa trên /v1/models sẽ tái hiện lỗi bên ngoài SillyTavern và giúp xác định nguyên nhân nào trong hai nguyên nhân trên.