API tốt nhất cho SillyTavern: lựa chọn model, ngữ cảnh và chi phí hằng tháng

SillyTavern không bán API và cũng không bán subscription, vì vậy chọn API tốt nhất cho SillyTavern là một giao dịch mua model và provider — con số quyết định là chi phí của một lượt ở Context Size của bạn, không phải giá niêm yết trên mỗi triệu token. SillyTavern gửi lại character card, system prompt và phần lịch sử vừa đủ trong mỗi lần tạo, nên hóa đơn tăng theo cuộc trò chuyện dù mức giá không đổi.

Bản phát hành 1.19.0 được công bố vào ngày 14 tháng 9 năm 2026 theo AGPL-3.0, và lần push gần nhất của repository là ngày 14 tháng 9 năm 2026 (kiểm tra ngày 18 tháng 9 năm 2026). Hai thứ không phải SillyTavern: TavernAI, dự án tiền thân riêng biệt — tài liệu ghi SillyTavern là "fork của TavernAI 1.2.8 vào tháng 2 năm 2023" — và SillyTavern-Extras, hiện có phần mô tả repository bắt đầu bằng "[OBSOLETE]". Các hướng dẫn yêu cầu cài Extras đã lỗi thời.

Điều gì miễn phí và điều gì không

Các nguồn được kiểm tra ngày 18 tháng 9 năm 2026: repository của dự án và FAQ chính thức. FAQ chia backend thành model tự host miễn phí khi chạy và dịch vụ web trả phí, mà theo nguyên văn là "tốn tiền để sử dụng".

Một cuộc trò chuyện SillyTavern tạo ra hóa đơn như thế nào

Tài liệu Context Size của SillyTavern định nghĩa cài đặt này là số token tối đa SillyTavern sẽ gửi đến API dưới dạng prompt, trừ độ dài phản hồi, và nói rằng ngữ cảnh "bao gồm thông tin nhân vật, system prompt, lịch sử trò chuyện, v.v." Các message phía trên đường chấm trong cuộc trò chuyện đơn giản là không được gửi, chứ không được tóm tắt. Vì vậy, một lượt có chi phí khoảng context tokens × input rate + reply tokens × output rate, và một câu trả lời tạo lại sẽ tính lại toàn bộ phần đầu vào.

Context mặc định của Chat Completion là 4.095 token, được đặt trong các giá trị mặc định đi kèm (đọc ngày 18 tháng 9 năm 2026); thanh trượt có thể tăng lên nhiều bậc độ lớn, và tăng thêm nữa khi mở khóa context. Do đó, Context Size là công cụ kiểm soát ngân sách lớn nhất trong ứng dụng: tăng gấp bốn lần sẽ gần như tăng gấp bốn lần chi phí đầu vào ở mọi message tiếp theo với cùng mức giá.

Danh sách rút gọn model và chi phí của từng model

USD trên mỗi triệu token đầu vào / đầu ra: mức giá catalog Kunavo hiện tại đặt cạnh giá niêm yết do vendor công bố, tất cả được kiểm tra ngày 18 tháng 9 năm 2026.

Giá của nhà cung cấp lấy từ trang giá của Anthropic và giá dành cho nhà phát triển của OpenAI.

Một ước tính theo tháng có tính minh họa

Giả sử 100 lần tạo trong một tháng, prompt đã tăng lên khoảng 16.000 token, câu trả lời 300 token và không tạo lại. Tổng cộng là 1,6 triệu token đầu vào và 30.000 token đầu ra. Theo mức giá catalog trên:

Đây là phép tính token dựa trên các giả định, không phải phiên đo thực tế và không phải mức trần số tiền bạn sẽ bị tính. Thay đổi bất kỳ giả định nào cũng làm kết quả thay đổi: tăng Context Size, tạo lại câu trả lời hoặc chạy 500 lượt thay vì 100 đều làm tăng phần đầu vào. Con số này cũng không bao gồm phí cache, là nội dung của phần tiếp theo.

Khoảng chênh lệch caching quyết định chi phí cuộc trò chuyện dài

Đây là phần không thể nhìn thấy từ bên trong giao diện. Trong nhánh phát hành 1.19.0 của backend chat-completions (đọc ngày 18 tháng 9 năm 2026), mọi marker cache_control đều nằm sau một kiểm tra nguồn tích hợp sẵn: nguồn Claude, nguồn ElectronHub cho các model ID claude-, nguồn OpenRouter cho các model ID anthropic/claude, nguồn OpenRouter một lần nữa cho các ID google/gemini mà nó xác định là có thể cache, và một cờ NanoGPT. Nhánh Custom (OpenAI-compatible) không nằm trong bất kỳ kiểm tra nào, cũng không đặt trường cache_control nào — những gì nó đặt là logprobs, một response_format nếu bạn cấu hình JSON schema, Include Headers và Include Body Parameters, cùng reasoning_effort hoặc verbosity ở nơi bạn yêu cầu. Ngoài ra cũng không có phần custom: trong cấu hình đi kèm, nơi các công tắc caching claude: và gemini: được đặt.

Hệ quả này chỉ có ở giao thức Anthropic: nguồn Custom không bao giờ đặt marker cache_control, vì vậy trên model Claude, toàn bộ lịch sử sẽ bị tính lại ở mức giá đầu vào đầy đủ trong mỗi lượt, trừ khi endpoint tự chèn breakpoint. Tuy nhiên, không thể suy ra rằng tuyến này hoàn toàn không cache được gì. Prompt caching của OpenAI được bật mặc định cho các model được hỗ trợ và không yêu cầu client làm gì, vì vậy tuyến GPT qua cùng nguồn Custom vẫn có thể cache trong khi tuyến Claude thì không. Caching được quyết định bởi model và endpoint, không phải bởi những gì SillyTavern gửi. Lớp chuyển đổi từ OpenAI sang Anthropic của Kunavo có chèn các breakpoint — trên các block tools và system, cộng thêm một breakpoint cuốn chiếu trên message cuối khi cuộc trò chuyện đã có một lượt assistant, đây là hình dạng của cuộc trò chuyện SillyTavern sau lượt đầu tiên. Việc chèn breakpoint chỉ bắt đầu khi prompt, được tính bằng ký tự thay vì token, đạt một nửa độ dài tối thiểu mà Anthropic cho phép cache với model đang dùng — 512 ký tự trên Claude Sonnet 5, model có mức tối thiểu là 1.024 token — và tổng số breakpoint không bao giờ vượt quá giới hạn bốn breakpoint của Anthropic. Một system message được gửi sau câu trả lời đầu tiên của model, chẳng hạn Author's Note được chèn vào cuộc trò chuyện ở một độ sâu nhất định, vẫn nằm lại trong cuộc trò chuyện, và các breakpoint được bố trí có tính đến nó: khi prompt kết thúc bằng một message như vậy, breakpoint cuốn chiếu được đặt trên block ngay trước nó, còn các breakpoint còn dư được đặt ngay trước những message như vậy mà phía sau vẫn còn nội dung, bắt đầu từ message nằm sau cùng. Chi tiết nằm trong tài liệu caching, được viết cho các caller tự đặt breakpoint.

Giá trị trong trường hợp tốt nhất, chứ không phải dự báo: nếu 12.000 trong số 16.000 token prompt đó được đọc từ cache ở mỗi lượt theo mức giá đọc cache của Kunavo cho Claude Sonnet 5 ($0,14 trên mỗi triệu), cùng 100 lượt sẽ có tổng khoảng $0,94 thay vì $2,45. Hãy coi đây là khoản tiết kiệm lớn nhất có thể đạt được, không phải mức trần số tiền bạn sẽ trả: giả định này có cache hit ở mọi lượt và không tính lần ghi cache, vì vậy hóa đơn thực tế sẽ cao hơn. Anthropic tính phí đọc cache bằng 0,1× đầu vào cơ bản (0,025× trên Fable 5.1), nhưng ghi cache bằng 1,25× trong cửa sổ năm phút — một người roleplay chờ giữa các message lâu hơn khoảng thời gian đó sẽ phải trả phí ghi lại thay vì phí đọc. Anthropic cũng bán lần ghi trong một giờ với giá 2×. Không có phiên SillyTavern trực tiếp nào được tính hóa đơn qua gateway cho hướng dẫn này, vì vậy hãy kiểm tra usage được báo cáo trong cuộc trò chuyện dài đầu tiên của chính bạn trước khi lập ngân sách dựa trên cache hit.

Khi trực tiếp, gateway, gói đăng ký hay cục bộ là lựa chọn phù hợp

Các con số cụ thể, được kiểm tra ngày 18 tháng 9 năm 2026. OpenRouter chuyển tiếp giá của nhà cung cấp và tính 5,5% (tối thiểu 0,80 USD) cho các giao dịch mua tín dụng bằng thẻ, với các mô hình miễn phí bị giới hạn ở 50 yêu cầu mỗi ngày, hoặc 1.000 yêu cầu sau khi mua ít nhất 10 USD tín dụng. NanoGPT cung cấp hình thức trả theo mức sử dụng cùng gói đăng ký tùy chọn 12 USD mỗi tháng, với khoản nạp tối thiểu 0,10 USD bằng tiền mã hóa hoặc 1 USD bằng thẻ. Arli AI vận hành một gói miễn phí cùng các gói hàng tháng 10, 15, 20, 30 và 160 USD, khác nhau theo độ dài ngữ cảnh tối đa (12K ở gói miễn phí đến 512K ở gói cao nhất), kích thước mô hình và số yêu cầu song song; Infermatic niêm yết gói miễn phí cùng các gói 9, 16 và 20 USD; Featherless niêm yết Chat ở mức 25 USD mỗi tháng và Developer ở mức 50 USD. AI Horde tự mô tả là "Miễn phí · do cộng đồng vận hành · mã nguồn mở"; FAQ giải thích rằng vị trí trong hàng đợi dựa trên tổng số dư kudos của bạn và người dùng ẩn danh bắt đầu từ 0, vì vậy người dùng đã đăng ký được xếp hạng cao hơn họ. Google công bố một gói Gemini miễn phí, nhưng trang giới hạn tốc độ của họ không liệt kê con số theo từng mô hình cho gói miễn phí và hướng bạn đến AI Studio, vì vậy hãy coi mọi hạn mức cụ thể của gói miễn phí mà bạn đọc được ở nơi khác là chưa được xác minh.

Kunavo không có gói miễn phí và không cấp tín dụng khi đăng ký: mức tối thiểu là 10 USD tín dụng trả trước, không có gói đăng ký và số dư không hết hạn. Ước tính trong danh mục cũng không phải mức trần giá — xem thanh toán để biết một khoản phí được quyết toán như thế nào.

Quy tắc nội dung quan trọng hơn giá

FAQ của chính SillyTavern nói rằng các dịch vụ web trả phí "thường bị kiểm duyệt và sẽ từ chối trò chuyện với bạn về một số chủ đề nhất định". Đây là thông tin từ chính bên cung cấp và là kỳ vọng đúng cần đặt ra. Usage Policy của Anthropic cấm trò chuyện khiêu dâm và tạo nội dung tình dục rõ ràng, không có ngoại lệ cho người dùng trưởng thành, và gateway không thay đổi chính sách áp dụng cho mô hình được cung cấp — chính sách của Kunavo nêu rằng chính sách của nhà cung cấp upstream áp dụng cho nội dung bạn gửi. Không nên hiểu bất kỳ nội dung nào trên trang này là cung cấp endpoint không lọc. Nếu bạn yêu cầu nhập vai người lớn không hạn chế, câu trả lời trung thực là mô hình cục bộ hoặc nhà cung cấp open-weight, và danh sách mô hình ở trên không phải nơi phù hợp.

Cấu hình trước, rồi kiểm soát hóa đơn

Đường dẫn được tài liệu hóa là Chat Completion → Custom (OpenAI-compatible), điền Custom Endpoint (Base URL) và Custom API Key. Không thêm /chat/completions; thêm /v1 nếu kết nối không thành công. Bốn điều đáng biết trước cuộc trò chuyện dài đầu tiên:

1. Các tham số lấy mẫu sẽ được gửi đi trừ khi ID mô hình nằm trong danh sách loại trừ. Bộ dựng yêu cầu ở giao diện đưa temperature, top_p, frequency_penalty và presence_penalty vào mọi yêu cầu Chat Completion. Trong nhánh phát hành 1.19.0, sau đó nó xóa bốn tham số này cùng top_k đối với mọi ID mô hình khớp với claude-fable, claude-opus-5 hoặc claude-sonnet-5 — quy tắc này dựa trên ID mô hình và không kiểm tra nguồn, nên cũng kích hoạt với nguồn Custom. Quy tắc này không bao gồm Claude Haiku 4.5, còn quy tắc GPT-5 tương đương bên cạnh chỉ chạy cho các nguồn OpenAI, Azure và OpenRouter tích hợp sẵn, vì vậy các ID đó vẫn truyền các trường lấy mẫu qua endpoint tùy chỉnh. Danh mục của Kunavo cũng đánh dấu riêng temperature, top_p và top_k là không được hỗ trợ trên các mô hình Claude 5 được liệt kê ở trên và loại bỏ chúng trước khi gọi upstream; trên endpoint không làm vậy, hãy xóa chúng qua Exclude Body Parameters trong ngăn Additional Parameters, nếu không mô hình từ chối các trường đó sẽ trả về lỗi 400.
2. Đặt Prompt Post-Processing ban đầu là None. Messages API của Anthropic tự kết hợp các lượt liên tiếp có cùng vai trò và nhận system prompt qua một tham số cấp cao nhất, vì vậy chính gateway dịch quyết định mỗi thông báo system được đặt ở đâu. Kunavo đưa các thông báo system được gửi trước câu trả lời đầu tiên của model vào tham số đó, còn một thông báo được gửi sau đó, chẳng hạn Author's Note hoặc một mục World Info được chèn vào cuộc trò chuyện ở một độ sâu nhất định, vẫn nằm trong lượt mà nó được gửi. Tài liệu SillyTavern định nghĩa None là "không áp dụng xử lý tường minh trừ khi API bắt buộc nghiêm ngặt", Semi-strict là gộp các vai trò và chỉ cho phép một thông báo system tùy chọn, còn Strict là ngoài ra yêu cầu thông báo user xuất hiện trước — vì vậy nếu bạn thấy lỗi 400 về vai trò thông báo, hãy chuyển lên Semi-strict. Lưu ý rằng Merge, Semi-strict và Strict cũng loại bỏ các lệnh gọi công cụ trừ khi bạn chọn biến thể "with tools".
3. Bộ đếm token chỉ là ước tính. Tài liệu tokenizer của SillyTavern nói rằng số lượng là "được ước tính dựa trên loại tokenizer đã chọn" khi backend không cung cấp tokenizer, và các quy tắc Best-match nêu tên các nhà cung cấp cụ thể thay vì một endpoint tùy chỉnh bất kỳ. Anthropic cho biết các mô hình Claude 4.7 trở lên sử dụng tokenizer mới hơn, tạo ra "xấp xỉ nhiều hơn 30% token cho cùng một văn bản", vì vậy số đếm do tokenizer cũ tạo ra sẽ thấp hơn so với số token mà các mô hình đó tính phí.
4. Ngăn Reverse Proxy là một tính năng khác. Khối cảnh báo trong giao diện được phát hành giới hạn trong các nguồn tích hợp sẵn (data-source="openai,claude,mistralai,…") và ghi "MỌI yêu cầu hỗ trợ sẽ bị TỪ CHỐI nếu bạn đang sử dụng proxy." Trang tài liệu có tên đó nói về việc đặt chính SillyTavern phía sau Traefik, NGINX hoặc Caddy, lại là một chủ đề khác. Nguồn Custom là đường dẫn được hỗ trợ và không phải ngăn đó.

Kunavo xuất bản hướng dẫn thiết lập SillyTavern với các giá trị trường chính xác — một cấu hình bằng văn bản, không phải bài kiểm tra khả năng tương thích thời gian chạy được thực hiện thay bạn. Nếu mức giá trên phù hợp với các cuộc trò chuyện của bạn, hãy tạo tài khoản và bắt đầu với mức tối thiểu g10 USD thay vì gói đăng ký.

Câu hỏi thường gặp

Trạng thái phát hành SillyTavern, tài liệu, mã nguồn đã phát hành và giá của đối thủ được kiểm tra ngày 18 tháng 9 năm 2026. Giá Kunavo được đọc từ danh mục trực tiếp; mọi tổng số ở đây là phép tính token dựa trên các giả định đã nêu, không phải các phiên được đo thực tế.