Mô hình và chi phí API Jan AI: cục bộ, đám mây và endpoint tùy chỉnh

Các mô hình đám mây Jan AI không phải là mô hình của Jan. Jan không lưu trữ dịch vụ suy luận và không bán gì, nên “mô hình đám mây” trong Jan Desktop có nghĩa là mười một cầu nối tích hợp sẵn đến các nhà cung cấp bên thứ ba bằng khóa API của chính bạn, cộng với bất kỳ endpoint định dạng OpenAI hoặc Anthropic nào bạn tự thêm — mỗi endpoint đều do bên ở đầu kia tính phí. Bản thân ứng dụng là miễn phí: jan.ai/pricing trả về HTTP 404 khi được kiểm tra vào ngày 19 tháng 9 năm 2026, và cả Jan Desktop lẫn Jan Agent đều không có tài liệu về bất kỳ gói dịch vụ, suất người dùng, tín dụng hay hạn ngạch nào. Vì vậy, con số duy nhất đáng lập ngân sách là token theo mức giá của nhà cung cấp — hoặc chi phí bằng không cho mỗi yêu cầu nếu mô hình chạy trên máy của bạn.

Trước hết cần phân biệt, vì kết quả tìm kiếm trộn lẫn chúng. Janitor AI (janitorai.com) là một trang trò chuyện nhân vật dành cho người dùng phổ thông và là sản phẩm hoàn toàn khác; phần lớn tìm kiếm “jan ai api key” có thể nói đến khóa proxy của sản phẩm đó. Nếu đó là thứ bạn đang cấu hình, hãy bắt đầu từ thiết lập Janitor AI — trang này không nêu giá hay giới hạn cho sản phẩm đó.

Ba sản phẩm dùng chung thương hiệu Jan, và hai sản phẩm dùng chung tên tệp nhị phân

Việc nhầm lẫn này khiến người mua bối rối về việc Jan có miễn phí để chạy hay không. jan.ai liệt kê chính xác ba sản phẩm (trang chủ được đọc vào ngày 18 tháng 9 năm 2026):

• Jan Desktop — ứng dụng ổn định, ưu tiên cục bộ. Bản phát hành được gắn thẻ mới nhất là v0.8.4, công bố ngày 23 tháng 7 năm 2026; kho mã chưa được chuyển sang trạng thái lưu trữ và lần đẩy gần nhất là ngày 18 tháng 9 năm 2026, với 44.551 sao (GitHub API, ngày 19 tháng 9 năm 2026). Ứng dụng tích hợp engine llama.cpp và MLX, đồng thời có thể tùy chọn truy cập các nhà cung cấp đám mây. Kho lưu trữ mô tả ứng dụng là hoạt động 100% ngoại tuyến.
• Jan Agent — tác nhân terminal độc lập, được phân phối riêng. quickstart của nó có cảnh báo xem trước: trình cài đặt tại dev lấy từ kênh agent-nightly. Kho lưu trữ không có bản phát hành được gắn thẻ và quickstart chỉ in phiên bản qua jan --version, vì vậy mọi thông tin bạn ghi lại về các cờ đều phụ thuộc vào bản dựng bạn đã cài đặt.
• Tokamak — backend tự lưu trữ cấp tổ chức với miền tài liệu riêng. Trang của sản phẩm không công bố giá, gói, số seat, credit hay danh sách chờ, nên trang này không trích dẫn gì — và việc không công bố điều khoản không đồng nghĩa với miễn phí. Đây là backend tự lưu trữ độc lập thay vì gói trả phí bổ sung trên Jan Desktop, và jan login là đường dẫn được tài liệu hóa để truy cập.

Tài liệu riêng của Jan có vẻ tự mâu thuẫn ở đây, và trang nhà cung cấp là nơi giải thích điều đó. Phần giới thiệu trên trang tài liệu mô tả Jan Agent là công cụ khởi chạy tác nhân trên mô hình cục bộ; quickstart khẳng định rõ rằng Jan Agent không có engine suy luận cục bộ — nó gọi đến một nhà cung cấp từ xa. Cả hai đều đúng nhưng nói về những điều khác nhau. Agent không tự chạy mô hình, nên mô hình luôn chạy ở nơi khác — nhưng nơi đó có thể là chính máy của bạn: trang nhà cung cấp có phần “Your own hardware” trỏ Agent đến máy chủ API cục bộ của Jan Desktop (http://localhost:6767/v1) và cho biết trong thiết lập đó không có dữ liệu nào rời khỏi máy. Vì vậy Agent luôn cần một endpoint; nhưng không phải lúc nào cũng cần endpoint trả phí.

Sự trùng tên càng làm vấn đề phức tạp. CLI riêng của Jan Desktop (có từ 0.7.8) và tệp nhị phân Jan Agent đều được gọi bằng jan, nhưng có các bộ lệnh khác nhau. Vì vậy tồn tại ba “Jan endpoint” khác nhau: 127.0.0.1:1337 cho máy chủ API cục bộ của giao diện Jan Desktop, localhost:6767/v1 cho jan serve từ CLI Desktop, và bất kỳ base URL từ xa nào mà nhà cung cấp được trỏ tới.

Giá Jan AI: phần mềm tốn bao nhiêu và khoản nào được tính phí

Lưu ý về giấy phép, vì cách đọc tự động là sai: API của GitHub báo NOASSERTION cho kho lưu trữ này, vì tệp LICENSE là phần mở đầu tùy chỉnh của Menlo Research, tiếp theo là thông báo Apache 2.0 tiêu chuẩn và yêu cầu ghi công, thay vì nguyên văn Apache 2.0 mà trình quét đối chiếu. Bản thân tệp ghi “Licensed under the Apache License, Version 2.0”, vì vậy đó mới là giấy phép, không phải trường API.

Mười một nhà cung cấp đám mây tích hợp sẵn và bản chất thực sự của chúng

Jan Desktop khởi tạo mỗi nhà cung cấp tích hợp sẵn bằng một base URL trong web-app/src/constants/providers.ts. Mỗi URL đều trỏ đến một bên thứ ba. Không có mục jan hoặc menlo.

Đọc từ tệp đó vào ngày 18 tháng 9 năm 2026. Lưu ý mẫu mà tất cả đều tuân theo: đường dẫn phiên bản là một phần của base URL. Riêng quy ước này là nguyên nhân phổ biến nhất gây lỗi thiết lập trong Jan và được đề cập bên dưới.

Ba thứ khác nhau được gọi là “Jan AI API key”

Hai ý nghĩa này thực sự va chạm trong Jan, vì máy chủ cục bộ của ứng dụng mô phỏng cả hai định dạng giao thức. Tài liệu tùy chọn API của Jan cho thấy máy chủ cục bộ cung cấp GET /v1/models, POST /v1/chat/completions và POST /v1/messages tương thích với Anthropic, được xác thực bằng x-api-key. Đó cũng là hình dạng mà một gateway từ xa cung cấp — vì vậy cùng một lệnh curl có thể được trỏ đến máy tính xách tay của bạn hoặc một endpoint trả phí, và chỉ hostname cho biết đó là trường hợp nào.

Cục bộ hay đám mây: quyết định dựa trên bộ nhớ, ngữ cảnh và nhu cầu ngoại tuyến

Cơ sở khách quan nhất cho quyết định này được chính Jan công bố trên trang cài đặt Mac (macOS 13.6 trở lên, chỉ Apple Silicon — máy Mac Intel không được hỗ trợ — và dung lượng trống từ 10GB trở lên):

Các mức tối thiểu trên Windows được nêu riêng trên trang cài đặt Windows và bao gồm mức VRAM tối thiểu: Windows 10 trở lên, RAM tối thiểu 8GB với 16GB được khuyến nghị, VRAM tối thiểu 6GB cho GPU NVIDIA, AMD hoặc Intel Arc, dung lượng trống 10GB và hỗ trợ AVX2. Trang đó không công bố bảng RAM theo kích thước mô hình. Yêu cầu Linux chưa được kiểm tra cho trang này. Trong ứng dụng, Hub thay thế các con số bằng một kết luận — nhãn màu hiển thị Fits, May be slow hoặc Won't fit theo từng mức lượng tử hóa — và cho biết không tải dữ liệu xuống để xác định trạng thái phù hợp.

Về lựa chọn mô hình: Jan tài liệu hóa bảy mô hình do chính Jan phát hành — Jan-v3-4B, Jan-Code-4B, Jan-v1, Jan-v2-VL-med, Jan-Nano-32, Jan-Nano-128 và Lucy — với trọng số mở trên Hugging Face dưới các tổ chức riêng của Jan, janhq và Menlo. Chúng không có cùng kích thước: tài liệu mô hình cho biết Jan-v3-4B và Jan-v1 có 4B tham số, Jan-v2-VL-med có 8B và Lucy có 1.7B. Jan-v3-4B cũng có ngữ cảnh gốc 262.144 token, và trang của nó nêu rõ giới hạn này: 4B tham số hạn chế khả năng suy luận nhiều bước phức tạp so với các mô hình lớn hơn. Câu đó tóm tắt toàn bộ lập luận cục bộ so với đám mây. Hãy dùng cục bộ cho công việc có giới hạn và yêu cầu riêng tư; chuyển sang từ xa khi tác vụ vượt quá số tham số hoặc khả năng bộ nhớ của bạn.

API tùy chỉnh Jan Desktop: thêm endpoint định dạng OpenAI hoặc Anthropic

Đường dẫn được tài liệu hóa là Settings → Model Providers → Add Provider. Trang endpoint tùy chỉnh của Jan (được kiểm tra ngày 19 tháng 9 năm 2026) cung cấp chính xác hai định dạng giao thức — OpenAI-compatible, được mô tả là dành cho vLLM, Ollama, LocalAI, TGI, llama.cpp server và LiteLLM ở chế độ OpenAI; và Anthropic-compatible, dành cho các endpoint cung cấp Anthropic Messages API — sau đó yêu cầu tên nhà cung cấp, base URL và API key. Trường khóa là bắt buộc ngay cả đối với máy chủ cục bộ không dùng khóa, nơi bất kỳ giá trị giữ chỗ nào cũng được.

Hai chi tiết quyết định việc nó có hoạt động ngay lần đầu hay không.

Đường dẫn phiên bản phải nằm trong base URL. Tài liệu Jan gọi đây là lỗi phổ biến bằng đúng những từ đó: nhập http://localhost:8000 thay vì http://localhost:8000/v1, khiến mọi yêu cầu đều trả về 404. Với nhà cung cấp định dạng OpenAI trỏ đến Kunavo, điều đó có nghĩa là https://api.kunavo.com/v1.

Đối với định dạng Anthropic, tài liệu Jan không đưa ra quy tắc — tài liệu nói hãy sử dụng base mà gateway của bạn cung cấp, và ví dụ duy nhất là một phiên bản LiteLLM cục bộ. Mã nguồn Jan giải quyết vấn đề này: đường dẫn Anthropic được xây dựng trên nhà cung cấp Anthropic của Vercel AI SDK, trong đó URL yêu cầu được ghép thành {baseURL}/messages với header x-api-key, và base mặc định của chính nó đã chứa tiền tố phiên bản. Vì vậy, cùng https://api.kunavo.com/v1 là giá trị cần nhập, đưa yêu cầu đến /v1/messages. Đây là cách đọc từ hai codebase chứ không phải kết quả kiểm thử, nên hãy coi đó là giá trị nên thử trước — xem ghi chú chưa kiểm thử ở cuối trang này.

Sự khác biệt này khiến nhiều người mắc lỗi, vì hướng dẫn ANTHROPIC_BASE_URL của Kunavo nói ngược lại cho một nhóm client khác: các SDK Anthropic chính thức và Claude Code tự nối thêm /v1/messages, nên chúng nhận origin thuần và việc thêm /v1 sẽ tạo ra /v1/v1/messages rồi trả về 404. Nhà cung cấp định dạng Anthropic của Jan không thuộc nhóm client đó. Nếu thấy 404, đường dẫn bị nhân đôi trong lỗi là dấu hiệu cho biết bạn đang dùng quy ước nào. endpoint Messages của Kunavo cũng chấp nhận header Anthropic x-api-key cùng với Authorization: Bearer, còn endpoint chat completions xử lý tuyến định dạng OpenAI.

Khám phá mô hình và năng lực. Jan cố tải các mô hình khả dụng từ {base_url}/models khi bạn lưu; nếu thất bại, bạn nhập chính xác model id theo yêu cầu của máy chủ. Kunavo cung cấp danh sách mô hình tại cùng tiền tố đó, nên việc khám phá sẽ hoạt động trên tuyến định dạng OpenAI — việc Jan có truy vấn nó cho nhà cung cấp định dạng Anthropic hay không chưa được tài liệu hóa và chưa kiểm thử, vì vậy hãy sẵn sàng thêm id thủ công. Quan trọng hơn: các nhà cung cấp tùy chỉnh không được tự động phát hiện năng lực. Jan cho biết không thể suy ra mô hình có hỗ trợ công cụ, hình ảnh hay âm thanh hay không, và yêu cầu bạn thêm thủ công từng mô hình rồi cấu hình năng lực cho từng mô hình. Tài liệu MCP của Jan cho thấy chiều ngược lại: với một nhà cung cấp tích hợp sẵn như Anthropic, Jan tự động đọc năng lực mô hình của nhà cung cấp sau khi bạn thêm khóa, và mục khắc phục sự cố “the model won't use the MCPs I enabled” trên chính trang đó là đảm bảo mô hình đã bật công cụ. Không trang nào nêu rõ mô hình tùy chỉnh mới thêm mặc định như thế nào, nên hãy kiểm tra Model Capabilities trước khi cho rằng MCP đã hoạt động. Đây là khác biệt thực tế lớn nhất giữa việc dán khóa vào nhà cung cấp Anthropic tích hợp sẵn và thêm gateway dưới dạng nhà cung cấp tùy chỉnh.

Ứng dụng cũng hiển thị trường Base URL trên một số nhà cung cấp tích hợp sẵn, cho phép bạn chuyển hướng mục Anthropic hoặc OpenAI tích hợp sẵn đến một gateway. Không có trang tài liệu Jan nào đề cập đến điều này, và trang này chưa chạy ứng dụng để xác nhận — hãy coi quy trình Add Provider là tuyến được hỗ trợ.

Jan Agent sử dụng cùng hai định dạng dưới dạng cờ

Tài liệu nhà cung cấp Agent cấu hình endpoint bằng --provider, --api-key, --base-url, --model (có thể lặp lại) và --api-type, trong đó mục cuối là giao thức giao tiếp, có thể là openai hoặc anthropic, mặc định là OpenAI-compatible.

# Jan Agent is a preview build from a nightly channel.
# Re-check these flags against your own `jan config --help` before relying on them.
jan config set \
  --provider kunavo \
  --api-type anthropic \
  --base-url https://api.kunavo.com/v1 \
  --api-key sk-kn-... \
  --model claude-sonnet-4-6

Các cài đặt được lưu vào ~/.jan/config.toml, với ghi đè theo từng dự án trong agent.toml dưới [provider] và ghi đè tạm thời qua JAN_API_KEY. Thứ tự ưu tiên được tài liệu hóa ngay trong mã nguồn, tại providers.rs: cấu hình toàn cục là nền tảng, cài đặt của Desktop được xếp thêm dưới dạng nguồn chỉ kế thừa và không bao giờ ghi đè cấu hình đó, tệp dự án ghi đè cả hai, còn cờ CLI cùng biến môi trường có ưu tiên cao hơn mọi thứ. Cả hai giao diện Jan đều chấp nhận nhiều khóa cho mỗi nhà cung cấp và thử lại bằng khóa tiếp theo, đồng thời giới hạn việc thử lại theo cùng cách: trang endpoint tùy chỉnh của Jan Desktop tài liệu hóa cơ chế dự phòng chỉ với HTTP 401, 403 hoặc 429; các lỗi khác không được thử lại, và mã nguồn riêng của Agent cũng áp dụng ba trạng thái đó. Thông báo key rotation exhausted là của Jan Desktop, còn trang khắc phục sự cố diễn giải nó là mọi khóa đã cấu hình đều thất bại với 401 hoặc 403, không chỉ một khóa.

Nếu tự kiểm tra kho lưu trữ, bạn sẽ gặp một cái bẫy ở đây: một chú thích trên stream_openai_chat_completions trong core/agent/upstream.rs nói api_type “is None for every caller today” và rằng agent luôn sử dụng OpenAI /chat/completions bất kể giá trị đó. Chú thích này mô tả một helper và đã lỗi thời đối với phần còn lại: core/agent/loop.rs gọi resolve_api_type_for_model rồi xây dựng converter từ kết quả đó, và converter chuyển yêu cầu sang /messages với x-api-key cùng header cố định anthropic-version (converters.rs). Vì vậy --api-type anthropic được tuân thủ — và chú thích riêng của converter cũng nói rằng base_url đã đăng ký phải bao gồm tiền tố phiên bản, đó là lý do đoạn mã phía trên kết thúc bằng /v1.

Khi xảy ra lỗi

Ba hàng đầu lấy từ trang khắc phục sự cố của Jan; hai hàng cuối lấy từ trang điểm cuối tùy chỉnh. Nhật ký ứng dụng nằm tại ~/Library/Application Support/Jan/data/logs/app.log trên macOS, %APPDATA%\Jan\data\logs\app.log trên Windows và ~/.local/share/Jan/data/logs/app.log trên Linux. Tài liệu tham khảo lỗi của Kunavo bao quát các mã trạng thái tương tự từ phía cổng kết nối.

Ngân sách đám mây minh họa cho Jan

Các con số này là phép tính token minh họa, không phải chi phí tác vụ được đo lường và không phải mức trần hóa đơn. Cột trò chuyện giả định một ngày sử dụng Jan Desktop với khoảng 40 lượt, trong đó luồng hội thoại tăng dần được gửi lại mỗi lần — 240.000 token đầu vào và 20.000 token đầu ra. Cột tác tử giả định một phiên sử dụng công cụ dài hơn với 400.000 token đầu vào và 30.000 token đầu ra. Cả hai số lượng token đều do trang này tự mô hình hóa, không phải số liệu Jan công bố. Cả hai đều giả định không đọc bộ nhớ đệm, vì chưa truy vết được việc bộ nhớ đệm lời nhắc có tồn tại qua nhà cung cấp tùy chỉnh trên một trong hai giao diện Jan hay không. Mức giá là giá trực tiếp trong catalog Kunavo cho mỗi triệu token.

Có hai cách đọc. Thứ nhất, chênh lệch giữa mô hình rẻ nhất và đắt nhất trong bảng đó là khoảng 5,0x cho cùng một phiên giả định — biên độ đủ rộng để việc chọn mô hình là đòn bẩy đáng tác động đầu tiên, đồng thời là lý do nên chọn một tuyến cho phép chuyển đổi mô hình mà không cần mở tài khoản mới. Thứ hai, hãy trung thực so sánh các tổng đó với tùy chọn cục bộ: một mô hình phù hợp với bảng RAM ở trên có giá $0 mỗi yêu cầu, và Jan cung cấp sẵn công cụ chạy mô hình đó. Đối với người dùng Jan Desktop, hóa đơn từ xa là lựa chọn về khả năng, không phải chi phí sử dụng ứng dụng.

Hãy nhân rộng theo số ngày thực tế của bạn trước khi coi bất kỳ con số nào là ngân sách. Số tiền trong catalog của Kunavo là mức sàn tính phí chứ không phải mức trần: khi hệ thống thượng nguồn báo chi phí, hóa đơn là giá trị lớn hơn giữa chi phí catalog và chi phí thượng nguồn nhân với hệ số cộng thêm áp dụng. Khoản nạp tối thiểu là $10 tín dụng trả trước — mức tối thiểu để nạp tiền, không phải phí tác vụ hay gói đăng ký. Xem chi tiết thanh toán và tối ưu hóa chi phí AI để biết phương pháp đo lường rồi lựa chọn.

Tuyến nào thắng trong trường hợp nào

Nếu bạn đang cân nhắc hàng cổng kết nối, thư mục máy khách liệt kê cách mỗi máy khách desktop và tác tử xử lý URL cơ sở cùng các định dạng giao thức, còn API tương thích OpenAI trình bày quy ước mà định dạng đầu tiên của Jan tuân theo.

Thiết lập và kiểm tra hóa đơn đầu tiên

Mọi thông tin ở trên đều lấy từ tài liệu và mã nguồn đã công bố của Jan cùng tài liệu riêng của Kunavo. Kunavo chưa kiểm thử Jan Desktop hoặc Jan Agent trong thời gian chạy: không có yêu cầu nào được gửi qua một trong hai ứng dụng cho trang này, vì vậy không nội dung nào ở đây khẳng định việc gọi công cụ, streaming hoặc khám phá mô hình đã hoạt động xuyên suốt. Hãy coi các URL cơ sở là điều được suy ra từ hai bộ tài liệu và tự xác nhận bằng một tác vụ có phạm vi giới hạn. Giữ sẵn một tuyến đang hoạt động trong khi thử, gửi một yêu cầu nhỏ, sau đó đọc khoản phí thực tế được ghi nhận vào tài khoản của bạn thay vì bất kỳ ước tính nào trên trang này. Tạo tài khoản Kunavo khi bạn sẵn sàng nạp tiền cho một khóa.

Câu hỏi thường gặp

Kiểm tra lại ngày 21 tháng 9 năm 2026: URL giá (vẫn trả về 404), kho GitHub và bản phát hành mới nhất của nó (v0.8.4), trang chủ, trang Tokamak, tài liệu về điểm cuối tùy chỉnh, máy chủ API, tham chiếu API, MCP, cài đặt Mac, cài đặt Windows, Hub và khắc phục sự cố, hướng dẫn bắt đầu nhanh và tài liệu nhà cung cấp của Agent, tài liệu mô hình chính thức, các tổ chức Hugging Face, cùng các tệp mã nguồn về hằng số nhà cung cấp, bộ chuyển đổi, upstream của agent và vòng lặp agent. Số sao và lần đẩy cuối lấy từ GitHub API vào ngày 19 tháng 9 năm 2026 và thay đổi hằng ngày. Hoàn toàn chưa kiểm tra: yêu cầu hệ thống Linux, điều khoản thương mại của Tokamak và hành vi bộ nhớ đệm qua nhà cung cấp tùy chỉnh. Mức giá token của Kunavo lấy từ catalog trực tiếp, và mọi con số đô la ở đây đều là phép tính token minh họa thay vì chi phí tác vụ được đo lường.