문서

AnythingLLM

AnythingLLM에서 이름이 지정된 제공자가 없는 엔드포인트에 연결하려면 Generic OpenAI를 사용합니다. Base URL, 키, 직접 입력하는 모델 ID가 필요합니다. 다섯 필드 중 두 필드에는 그대로 두면 조용히 비용을 초래하는 기본값이 있습니다.

AnythingLLM은 Generic OpenAI라는 제공자를 통해 이름이 지정된 제공자가 없는 엔드포인트에 연결합니다 — /v1이 포함된 Base URL, 키, 직접 입력하는 모델 ID가 필요하며 목록은 가져오지 않습니다

Instance Settings → AI Providers → LLM

LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192

Base URL에는 /v1 접미사를 유지합니다. AnythingLLM의 설정 페이지는 이를 문장으로 설명하지 않지만, 함께 배포되는 server/.env.example에는 같은 설정이 GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'로 작성되어 있습니다. 제공자 소스는 이 값을 수정하지 않고 OpenAI SDK의 baseURL로 전달하며, 경로만 덧붙입니다. 두 자료는 모두 2026년 9월 21일에 확인했습니다.

Kunavo는 이 엔드포인트로 AnythingLLM을 실행해 테스트하지 않았습니다. 이 페이지는 아래 표시된 날짜에 AnythingLLM 자체 문서와 배포 소스를 살펴본 내용이지 테스트 보고서가 아닙니다. 공개된 설정 페이지가 호환성 테스트 결과를 뜻하지는 않으며, 여기의 내용도 그렇게 해석해서는 안 됩니다. AnythingLLM의 자체 페이지에는 더 단호하게 다음과 같이 적혀 있습니다. "이것은 개발자용 LLM 제공자입니다. 자신이 무엇을 하는지 알고 있지 않다면 사용하지 마세요."

선택 항목처럼 보이지만 입력할 만한 필드가 두 개 있습니다. Model context window를 비워 두면 제공자는 4096을 기본값으로 사용한 다음, 만들어 낸 이 컨텍스트 창을 기준으로 기록, 시스템 프롬프트 및 사용자 콘텐츠의 토큰 예산을 계산합니다. Max Tokens의 기본값은 1024이며, 값을 높이지 않으면 긴 답변이 잘립니다.

이 설정은 채팅 기능만 구성합니다. AnythingLLM의 임베더는 별도의 제공자이며 시스템 전체에 설정됩니다. Kunavo는 임베딩 모델을 제공하지 않으므로 이 엔드포인트를 지정하지 마세요. 무료로 내장된 로컬 임베더나 전용 임베딩 제공자를 사용하면 됩니다. Kunavo는 음성-텍스트 변환 모델이나 텍스트-음성 변환 모델도 제공하지 않으므로 AnythingLLM의 Transcription 및 Voice & Speech 제공자도 이 엔드포인트로 연결할 수 없습니다.

아직 키가 없나요? Kunavo 계정을 만들고, 키를 생성한 다음(키는 sk-kn-로 시작합니다) $10부터 크레딧을 추가하세요. 호출 비용은 해당 잔액에서 차감되며 실패한 호출에는 요금이 부과되지 않습니다. 그러면 대시보드가 AnythingLLM 설정 화면에서 열립니다.

단계별 안내

/app/keys에서 키를 생성해 복사하세요. 키는 한 번만 표시됩니다.
Instance Settings → AI Providers → LLM으로 이동하세요. Desktop과 자체 호스팅 인스턴스에서 경로는 같으며, 설정 창에 접근하는 방법만 다릅니다.
LLM Provider에서 Generic OpenAI을 선택하세요. 해당 카드에는 "사용자 지정 구성으로 모든 OpenAi 호환 서비스에 연결"이라고 설명되어 있습니다.
위에서 설명한 대로 Base URL, API Key 및 Selected Model을 입력하세요. Selected Model은 목록에서 선택하는 항목이 아니라 텍스트 필드입니다. 제공자는 사전 검사를 하지 않으므로 잘못 입력한 ID도 저장 시에는 받아들여지고 첫 메시지에서 실패합니다.
Model context window와 Max Tokens를 비워 두지 말고 설정한 다음 Save changes를 누르세요.
워크스페이스에서 메시지 하나를 보내세요. 워크스페이스는 시스템 LLM을 재정의할 수 있으므로 답변이 이전 제공자를 사용하는 것처럼 보이면 여기의 설정을 바꾸기 전에 해당 워크스페이스의 모델 설정을 확인하세요.

AnythingLLM의 OpenAI (Generic) LLM 페이지에서 확인했습니다(2026년 9월 21일 기준). 서드파티 설정은 변경될 수 있으므로, 여기의 필드 이름이 실제 화면과 다르면 이 문서가 아니라 해당 페이지를 기준으로 삼으세요.

이것이 요약본입니다. 전체 안내—모델 선택, 실제 세션 비용, 실패 유형—는 AnythingLLM 배포에 실제로 드는 비용에 있습니다.

클라이언트를 디버깅하기 전에 확인할 사항

한 번의 요청으로 문제가 엔드포인트, 키 또는 구성 파일 중 어디에 있는지 판단할 수 있습니다. 이 요청에서 JSON이 반환되면 동일한 base URL과 키가 AnythingLLM에서 작동합니다.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

필드에 입력할 model id

모든 텍스트 모델은 model id로 접근할 수 있습니다. 현재 목록은 GET /v1/models이며, 가격이 포함된 카탈로그는 모델 페이지에서 확인할 수 있습니다. 요금은 토큰 100만 개당 USD 기준이며 입력 / 출력 순서입니다.

모델 ID	Kunavo 입력/출력	AnythingLLM에서의 위치
`claude-sonnet-5`	$1.40 / $7.00	문서 질의응답에 쓰는 일상적인 워크스페이스 모델
`claude-haiku-4-5`	$0.70 / $3.50	검색 결과에서 사실을 제공하는 대량 처리 워크스페이스
`claude-opus-5`	$3.50 / $17.50	오답의 대가가 큰 에이전트 또는 종합 분석 워크스페이스
`gpt-5-6-sol`	$2.00 / $12.00	워크스페이스별로 같은 키에 추가하는 두 번째 모델 계열
`gpt-5-6-terra`	$0.70 / $4.20	검색하지 않고 긴 문서 전체를 첨부하는 작업

월정액 없이 선불 잔액에서 토큰별로 청구됩니다. billing을 참고하세요. 반복되는 컨텍스트(에디터나 채팅 클라이언트가 보내는 데이터의 대부분)에서는 모델 선택보다 프롬프트 캐싱이 청구액에 더 큰 영향을 줍니다.

자주 묻는 질문

AnythingLLM에 커스텀 API 엔드포인트를 추가하려면 어떻게 하나요?

Instance Settings에서 AI Providers, LLM 순으로 열고 Generic OpenAI라는 제공자를 선택하세요. 해당 제공자의 카드에는 "사용자 지정 구성으로 모든 OpenAi 호환 서비스에 연결"이라고 적혀 있습니다. 이 제공자에는 Base URL, API Key, Selected Model, Model context window, Max Tokens의 다섯 필드와 Save changes 버튼이 있습니다. AnythingLLM에 이름이 지정된 통합 기능이 없는 OpenAI 호환 엔드포인트에는 이 제공자가 지원하는 경로입니다. 먼저 제공자 목록을 확인하세요. LM Studio, LocalAI, LiteLLM 같은 서비스에는 각자 기본 URL 필드와 기본값을 갖춘 전용 제공자가 있습니다.

AnythingLLM Base URL 끝에 /v1을 붙여야 하나요?

예, OpenAI 호환 엔드포인트라면 필요합니다. 설정 페이지는 이 형식을 설명하는 문장을 제공하지 않으므로 판단의 근거는 AnythingLLM에 함께 배포되는 server/.env.example입니다. 여기에는 같은 설정이 GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'로 작성되어 있습니다. 제공자 소스는 이 값을 수정하지 않고 OpenAI SDK의 baseURL로 전달하므로 경로인 /chat/completions만 추가됩니다. 따라서 Kunavo의 Base URL은 https://api.kunavo.com/v1입니다. /v1을 빼면 인증 오류가 아니라 404 오류가 발생합니다. 두 자료는 모두 2026년 9월 21일에 확인했습니다.

Generic OpenAI 제공자에서 AnythingLLM이 모델 목록을 표시하지 않는 이유는 무엇인가요?

표시할 목록이 없기 때문입니다. Selected Model은 직접 입력하는 텍스트 필드이며 제공자는 입력값을 사전 검증하지 않습니다. AnythingLLM이 알지 못하는 엔드포인트에 연결하기 위한 제공자이므로 의도된 동작입니다. 따라서 오타를 입력해도 저장할 때는 받아들여지고 메시지를 보낼 때 실패합니다. 잘못된 모델 ID와 잘못된 URL 또는 키를 구분하려면 위의 /v1/models 요청을 같은 URL과 키로 실행하세요. JSON 응답이 오면 엔드포인트와 키는 정상이고 수정할 부분은 ID입니다.

Kunavo를 AnythingLLM의 임베더와 채팅 모델 양쪽에 사용할 수 있나요?

아니요. Kunavo는 임베딩 모델을 제공하지 않으므로 AnythingLLM의 임베더 기능은 지원 범위에 포함되지 않습니다. 또한 AnythingLLM의 임베더는 채팅 제공자와 별도로 시스템 전체에 설정되며, 나중에 바꾸기 어렵습니다. 변경하려면 모든 문서를 삭제하고 다시 임베딩해야 하기 때문입니다. Desktop 빌드에 포함된 기본 로컬 임베더나 전용 임베딩 제공자를 사용하고, 이 엔드포인트는 채팅 제공자로 유지하세요. Kunavo는 음성-텍스트 변환 모델이나 텍스트-음성 변환 모델도 제공하지 않으므로 Transcription 및 Voice & Speech도 지원하지 않습니다.

Kunavo가 AnythingLLM과 엔드포인트를 테스트했나요?

아니요. Kunavo는 이 섹션의 클라이언트를 하나도 실행해 보지 않았으며 이 페이지는 테스트 보고서가 아닙니다. AnythingLLM 자체 문서와 배포 소스를 살펴보고 날짜를 표시한 내용이므로 얼마나 오래된 정보인지 확인할 수 있습니다. 여기서 정확히 알 수 있는 것은 어떤 필드가 있는지, AnythingLLM이 각 값을 어떻게 처리하는지, 어떤 기본값에 비용이 드는지입니다. 반면 여기서는 특정 빌드에서 에이전트 도구 호출, 스트리밍 또는 첨부 파일이 어떻게 작동했는지 알 수 없습니다. 직접 실행한 사람이 없기 때문입니다. 워크스페이스를 옮기기 전에 메시지 하나를 보내 보세요.

AnythingLLM의 Anthropic 제공자를 대신 타사 엔드포인트에 연결할 수 있나요?

AnythingLLM이 제공하거나 문서화한 방법으로는 불가능합니다. 해당 제공자는 UI에 Base URL 필드가 없고, 소스에서도 키와 헤더만 사용해 Anthropic SDK 클라이언트를 생성합니다. 타사 엔드포인트를 연결하는 지원 경로는 chat completions를 사용하는 Generic OpenAI이며, 이 페이지에서 설정하는 방식입니다. 고려해야 할 결과가 하나 있습니다. Generic OpenAI 경로는 cache_control 마커를 전송하지 않으므로, 클라이언트가 캐싱을 요청해야 하는 프로토콜에서는 캐시 적중이 발생하지 않습니다. 클라이언트 마커 없이 엔드포인트가 캐시하는지는 해당 엔드포인트의 자체 문서를 확인하세요.