Tài liệu

AnythingLLM

AnythingLLM kết nối với điểm cuối mà nó không có nhà cung cấp tích hợp mang tên riêng thông qua nhà cung cấp có tên Generic OpenAI: URL cơ sở, khóa và ID mô hình do bạn tự nhập. Hai trong số năm trường của nó có giá trị mặc định âm thầm khiến bạn tốn tiền.

AnythingLLM truy cập endpoint không có nhà cung cấp được đặt tên thông qua Generic OpenAI — Base URL có /v1, key và model id do bạn tự nhập vì nó không tải danh sách.

Cài đặt phiên → Nhà cung cấp AI → LLM

LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192

URL cơ sở giữ hậu tố /v1. Trang thiết lập của AnythingLLM không nêu điều này bằng lời — chính server/.env.example đi kèm phần mềm có nêu, với cùng cài đặt được viết là GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'; mã nguồn nhà cung cấp chuyển nguyên giá trị đó cho OpenAI SDK dưới tên baseURL, chỉ nối thêm đường dẫn. Cả hai nguồn đều được đọc vào ngày 21 tháng 9 năm 2026.

Kunavo chưa chạy AnythingLLM với điểm cuối này. Trang này trình bày kết quả đọc tài liệu và mã nguồn đi kèm phần mềm của chính AnythingLLM vào ngày ghi bên dưới, không phải báo cáo thử nghiệm — trang thiết lập đã công bố không phải kết quả kiểm tra khả năng tương thích, và không nên hiểu bất kỳ nội dung nào ở đây theo nghĩa đó. Trang của chính AnythingLLM còn nói thẳng hơn: "Đây là nhà cung cấp llm dành cho nhà phát triển — bạn không nên sử dụng nếu không biết rõ mình đang làm gì."

Có hai trường nên điền dù chúng có vẻ không bắt buộc. Nếu để trống Cửa sổ ngữ cảnh của mô hình, nhà cung cấp sẽ dùng giá trị dự phòng 4096, rồi phân bổ dung lượng cho lịch sử, lời nhắc hệ thống và nội dung người dùng theo cửa sổ giả định đó. Số token tối đa dùng giá trị dự phòng 1024, khiến câu trả lời dài bị cắt ngắn cho đến khi bạn tăng giá trị này.

Cấu hình này chỉ thiết lập phần trò chuyện. Bộ tạo embedding của AnythingLLM là một nhà cung cấp riêng, được thiết lập cho toàn hệ thống, và Kunavo không cung cấp mô hình embedding — vì vậy đừng trỏ nó đến đây; bộ tạo embedding cục bộ miễn phí tích hợp sẵn hoặc một nhà cung cấp embedding chuyên dụng sẽ đảm nhiệm phần đó. Kunavo cũng không cung cấp mô hình chuyển giọng nói thành văn bản hay chuyển văn bản thành giọng nói, nên các nhà cung cấp Chuyển giọng nói thành văn bản và Giọng nói & Lời nói của AnythingLLM cũng không dùng điểm cuối này.

Chưa có khóa? Tạo tài khoản Kunavo, tạo khóa (bắt đầu bằng sk-kn-) và nạp tín dụng từ $10 — các lệnh gọi được thanh toán từ số dư đó và các lệnh gọi thất bại không bị tính phí. Sau đó, bảng điều khiển mở tại phần thiết lập AnythingLLM.

Từng bước

Tạo khóa tại /app/keys rồi sao chép khóa — khóa chỉ hiển thị một lần.
Mở Cài đặt phiên bản triển khai → Nhà cung cấp AI → LLM. Đường dẫn này giống nhau trên bản Desktop và phiên bản tự lưu trữ; chỉ cách mở bảng cài đặt là khác.
Trong Nhà cung cấp LLM, chọn Generic OpenAI — được mô tả ngay trên thẻ của nó là "Kết nối với bất kỳ dịch vụ tương thích OpenAi nào thông qua cấu hình tùy chỉnh".
Điền URL cơ sở, Khóa API và Mô hình được chọn như trên. Mô hình được chọn là trường văn bản, không phải danh sách được truy xuất: nhà cung cấp không kiểm tra trước giá trị này, nên ID nhập sai vẫn được chấp nhận khi lưu và sẽ gây lỗi ở tin nhắn đầu tiên.
Đặt Cửa sổ ngữ cảnh của mô hình và Số token tối đa thay vì để trống, rồi chọn Lưu thay đổi.
Gửi một tin nhắn trong không gian làm việc. Không gian làm việc có thể ghi đè LLM của hệ thống, nên nếu câu trả lời có vẻ đến từ nhà cung cấp cũ, hãy kiểm tra cài đặt mô hình riêng của không gian làm việc trước khi thay đổi bất kỳ điều gì ở đây.

Đã kiểm tra đối chiếu với Trang LLM OpenAI (Generic) của AnythingLLM vào 21 tháng 9, 2026. Cài đặt của bên thứ ba có thể thay đổi; nếu tên trường ở đây không còn khớp với những gì bạn thấy, trang đó là nguồn có thẩm quyền, không phải trang này.

Đây là phiên bản ngắn. Hướng dẫn đầy đủ — lựa chọn mô hình, chi phí của một phiên thực tế và các trường hợp lỗi — nằm trong chi phí thực tế của một bản triển khai AnythingLLM.

Xác minh trước khi gỡ lỗi ứng dụng khách

Một yêu cầu sẽ xác định liệu lỗi nằm ở endpoint, khóa hay tệp cấu hình. Nếu lệnh này trả về JSON, cùng base URL và khóa sẽ hoạt động trong AnythingLLM.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

Đặt model id nào vào trường

Mọi mô hình văn bản đều có thể truy cập bằng model id — danh sách đang hoạt động là GET /v1/models, còn danh mục kèm giá nằm trên trang mô hình. Mức giá tính bằng USD trên mỗi 1M token, đầu vào / đầu ra.

ID mô hình	Kunavo vào / ra	Phù hợp ở đâu trong AnythingLLM
`claude-sonnet-5`	$1.40 / $7.00	mô hình dùng hằng ngày trong không gian làm việc để hỏi đáp về tài liệu
`claude-haiku-4-5`	$0.70 / $3.50	các không gian làm việc có khối lượng xử lý lớn, nơi dữ kiện được cung cấp qua truy xuất
`claude-opus-5`	$3.50 / $17.50	không gian làm việc dành cho tác nhân hoặc tổng hợp thông tin, nơi câu trả lời sai gây tổn thất lớn
`gpt-5-6-sol`	$2.00 / $12.00	một họ mô hình thứ hai dùng cùng khóa, theo từng không gian làm việc
`gpt-5-6-terra`	$0.70 / $4.20	tài liệu dài được đính kèm toàn bộ thay vì truy xuất

Thanh toán theo token từ số dư trả trước, không có phí hàng tháng — xem trang Thanh toán. Với ngữ cảnh lặp lại — chiếm phần lớn dữ liệu mà trình chỉnh sửa hoặc ứng dụng trò chuyện gửi đi — bộ nhớ đệm prompt ảnh hưởng đến hóa đơn nhiều hơn lựa chọn mô hình.

Câu hỏi thường gặp

Làm cách nào để thêm điểm cuối API tùy chỉnh vào AnythingLLM?

Mở Cài đặt phiên bản triển khai, rồi Nhà cung cấp AI, rồi LLM và chọn nhà cung cấp có tên Generic OpenAI — thẻ của chính AnythingLLM mô tả nhà cung cấp này là "Kết nối với bất kỳ dịch vụ tương thích OpenAi nào thông qua cấu hình tùy chỉnh". Nhà cung cấp này có năm trường: URL cơ sở, Khóa API, Mô hình được chọn, Cửa sổ ngữ cảnh của mô hình và Số token tối đa, cùng nút Lưu thay đổi. Đây là cách kết nối được hỗ trợ cho bất kỳ điểm cuối tương thích OpenAI nào mà AnythingLLM không có tích hợp mang tên riêng. Tuy nhiên, hãy kiểm tra danh sách nhà cung cấp trước: các dịch vụ như LM Studio, LocalAI và LiteLLM có nhà cung cấp mang tên riêng, với trường URL cơ sở và giá trị mặc định riêng.

URL cơ sở của AnythingLLM có cần kết thúc bằng /v1 không?

Có, đối với điểm cuối tương thích OpenAI. Bản thân trang thiết lập không nêu dạng URL bằng lời, nên dòng xác định rõ điều này nằm trong server/.env.example đi kèm phần mềm của chính AnythingLLM, viết cùng cài đặt là GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'. Mã nguồn nhà cung cấp chuyển nguyên giá trị đó cho OpenAI SDK dưới tên baseURL mà không sửa đổi, nên chỉ đường dẫn — /chat/completions — được nối thêm. Với Kunavo, URL cơ sở vì vậy là https://api.kunavo.com/v1. Thiếu /v1 sẽ gây lỗi 404 thay vì lỗi xác thực. Cả hai nguồn đều được đọc vào ngày 21 tháng 9 năm 2026.

Tại sao AnythingLLM không hiển thị danh sách mô hình cho nhà cung cấp Generic OpenAI?

Vì không có danh sách nào để hiển thị: Mô hình được chọn là trường văn bản để bạn tự nhập, và nhà cung cấp không xác thực trước nội dung bạn nhập. Đây là thiết kế có chủ đích cho một nhà cung cấp dùng để kết nối với các điểm cuối mà AnythingLLM không biết gì về chúng; điều đó có nghĩa là lỗi nhập được chấp nhận khi lưu và chỉ gây lỗi khi bạn gửi tin nhắn. Để phân biệt ID mô hình sai với URL hoặc khóa sai, hãy chạy yêu cầu /v1/models ở trên với cùng cặp URL và khóa — nhận được JSON nghĩa là điểm cuối và khóa đều hợp lệ, còn ID là thứ cần sửa.

Kunavo có thể vừa làm bộ tạo embedding vừa làm mô hình trò chuyện cho AnythingLLM không?

Không. Kunavo không cung cấp mô hình embedding, nên không đáp ứng phần tạo embedding của AnythingLLM; hơn nữa, bộ tạo embedding của AnythingLLM vốn là nhà cung cấp riêng biệt với nhà cung cấp trò chuyện — được thiết lập cho toàn hệ thống thay vì theo từng không gian làm việc, và khó thay đổi về sau vì việc chuyển đổi đòi hỏi xóa rồi tạo lại embedding cho mọi tài liệu. Hãy dùng bộ tạo embedding cục bộ tích hợp sẵn trong bản Desktop hoặc một nhà cung cấp embedding chuyên dụng, và giữ điểm cuối này cho nhà cung cấp trò chuyện. Kunavo cũng không cung cấp mô hình chuyển giọng nói thành văn bản hay chuyển văn bản thành giọng nói, nên Chuyển giọng nói thành văn bản và Giọng nói & Lời nói cũng nằm ngoài phạm vi của nó.

Kunavo đã thử nghiệm AnythingLLM với điểm cuối của mình chưa?

Chưa. Kunavo chưa chạy bất kỳ máy khách nào trong phần này, và trang này không phải báo cáo thử nghiệm — đây là kết quả đọc tài liệu và mã nguồn đi kèm phần mềm của chính AnythingLLM, có ghi ngày để bạn biết mức độ lỗi thời. Những gì trang này có thể cho bạn biết một cách trung thực là các trường hiện có, cách AnythingLLM xử lý từng giá trị và các giá trị mặc định khiến bạn tốn tiền. Trang này không thể cho bạn biết việc gọi công cụ của tác nhân, truyền dữ liệu dạng luồng hay tệp đính kèm hoạt động theo một cách cụ thể nào trong bản dựng của bạn, vì chưa ai ở đây chạy thử. Hãy gửi một tin nhắn trước khi chuyển không gian làm việc sang nhà cung cấp này.

Thay vào đó, tôi có thể trỏ nhà cung cấp Anthropic của AnythingLLM đến điểm cuối bên thứ ba không?

Không thể thông qua bất kỳ tính năng nào AnythingLLM cung cấp hoặc ghi trong tài liệu: nhà cung cấp đó không có trường URL cơ sở trong giao diện, và mã nguồn chỉ tạo máy khách Anthropic SDK bằng khóa cùng các tiêu đề. Cách kết nối được hỗ trợ cho điểm cuối bên thứ ba là Generic OpenAI qua chat completions, chính là cấu hình trên trang này. Có một hệ quả cần tính đến: luồng Generic OpenAI không gửi dấu đánh dấu cache_control, nên giao thức yêu cầu máy khách đề nghị lưu bộ nhớ đệm sẽ không có lần truy cập bộ nhớ đệm thành công qua luồng này — việc điểm cuối có lưu bộ nhớ đệm khi không có dấu đánh dấu từ máy khách hay không cần được xác định từ tài liệu của chính điểm cuối đó.