ドキュメント

ドキュメント

AnythingLLM

AnythingLLMで、名前付きのプロバイダーが用意されていないエンドポイントを使うには、Generic OpenAIというプロバイダーを利用します。Base URLとキーを入力し、モデルIDは自分で指定します。5つの項目のうち2つには、気づかないままコストにつながるデフォルト値が設定されています。

AnythingLLMは、名前付きプロバイダーがないエンドポイントへGeneric OpenAIを通じて接続します — /v1付きのBase URL、キー、手入力するモデルIDを指定します。モデル一覧は取得しません。

Instance Settings → AI Providers → LLM
LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192
Base URLには/v1のサフィックスを含めます。AnythingLLMの設定ページには文章で明記されていませんが、製品に同梱されたserver/.env.exampleでは、同じ設定がGENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'と記載されています。また、プロバイダーのソースコードはこの値を変更せずにOpenAI SDKへbaseURLとして渡し、ルートだけを追加します。いずれも2026年9月21日時点で確認しました。
KunavoはこのエンドポイントにAnythingLLMを接続して実行していません。このページは、下記の日付時点でのAnythingLLM独自のドキュメントと同梱ソースを確認したものであり、テスト報告ではありません。設定ページが公開されていても、互換性が確認されたことにはならず、ここに互換性のテスト結果が記載されていると解釈しないでください。AnythingLLMのページには、さらに率直に次のように記載されています。「これは開発者向けのLLMプロバイダーです。何をしているのか理解していない場合は使用しないでください。」
任意項目に見えますが、入力しておくべき項目が2つあります。Model context windowを空欄にすると、プロバイダーは4096を代わりに使い、その想定上のウィンドウに収まるよう会話履歴、システムプロンプト、ユーザーコンテンツを割り当てます。Max Tokensは1024が代わりに使われます。この値を増やすまで、長い回答は途中で切り詰められます。
この設定で構成されるのはチャット側だけです。AnythingLLMの埋め込みモデルは別のプロバイダーで、システム全体に設定します。Kunavoは埋め込みモデルを提供していないため、ここを指定しないでください。チャット側は、無料の組み込みローカル埋め込みモデルか、専用の埋め込みサービスで対応できます。Kunavoは音声からテキストへの変換モデルも、テキストから音声への変換モデルも提供していないため、AnythingLLMのTranscriptionおよびVoice & Speechプロバイダーもこのエンドポイントでは利用できません。
まだキーをお持ちですか?Kunavoアカウントを作成し、キーを作成します(sk-kn-で始まります)。$10からクレジットを追加すると、呼び出しはその残高から支払われ、失敗した呼び出しは課金されません。ダッシュボードを開くと、AnythingLLM設定が表示されます。

手順

  1. /app/keys でキーを作成してコピーします。キーは一度だけ表示されます。
  2. Instance Settings → AI Providers → LLMを開きます。Desktopとセルフホスト型のどちらでも設定画面への経路は同じです。異なるのは設定画面の開き方だけです。
  3. LLM ProviderでGeneric OpenAIを選択します。カードには「カスタム設定で、OpenAI互換のサービスに接続」と説明されています。
  4. 上記のとおり、Base URL、API Key、Selected Modelを入力します。Selected Modelは取得済みの一覧ではなくテキスト入力欄です。プロバイダーは事前チェックを行わないため、IDを誤入力しても保存でき、最初のメッセージ送信時にエラーになります。
  5. Model context windowとMax Tokensに値を入力して空欄のままにせず、Save changesを押します。
  6. ワークスペースでメッセージを1件送信します。ワークスペース単位でシステムLLMを上書きできるため、以前のプロバイダーによる回答のように見える場合は、ここを変更する前にワークスペース側のモデル設定を確認してください。

AnythingLLMのOpenAI (Generic) LLMページで2026年9月21日に確認しました。サードパーティの設定は変更されます。ここに記載されたフィールド名が表示内容と一致しなくなった場合は、このページではなく、そのページを正しい情報源としてください。

これが短い概要です。完全な手順 — モデルの選択、実際のセッション費用、失敗するケース — はAnythingLLMのデプロイで実際にかかる費用にあります。

クライアントをデバッグする前に確認すること

1回のリクエストで、失敗の原因がエンドポイント、キー、設定ファイルのどれかを特定できます。これがJSONを返すなら、同じベースURLとキーがAnythingLLMで機能します。

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

フィールドに入力するモデルID

すべてのテキストモデルにはモデルIDでアクセスできます。現在の一覧はGET /v1/models、価格付きのカタログはモデルページにあります。料金は100万トークンあたりのUSDで、入力 / 出力の順です。

モデル IDKunavo 入力 / 出力AnythingLLMでの位置付け
claude-sonnet-5$1.40 / $7.00文書に関する質疑応答に使う日常的なワークスペースモデル
claude-haiku-4-5$0.70 / $3.50検索結果から事実を得る、大量利用のワークスペース
claude-opus-5$3.50 / $17.50エージェントまたは統合ワークスペース。誤答のコストが高い用途
gpt-5-6-sol$2.00 / $12.00同じキーを使う別のモデルファミリー。ワークスペースごとに設定
gpt-5-6-terra$0.70 / $4.20検索せず、長い文書を添付して全文を渡す用途
請求は月額料金なしの前払い残高からトークン単位で行われます — 請求を参照してください。繰り返し送られるコンテキスト(エディターやチャットクライアントが送る内容の大半)では、プロンプトキャッシュのほうがモデル選択より請求額を大きく左右します。

よくある質問

AnythingLLMにカスタムAPIエンドポイントを追加するには?

Instance Settingsを開き、続いてAI Providers、LLMの順に選択して、Generic OpenAIというプロバイダーを選びます。AnythingLLMのカードには「カスタム設定で、OpenAI互換のサービスに接続」と記載されています。入力欄はBase URL、API Key、Selected Model、Model context window、Max Tokensの5つで、Save changesボタンがあります。このプロバイダーは、AnythingLLMに名前付きの連携機能が用意されていないOpenAI互換エンドポイントを使うための、サポート対象の方法です。ただし、まずプロバイダー一覧を確認してください。LM Studio、LocalAI、LiteLLMなどのサービスには、それぞれ独自のプロバイダーとベースURL項目、デフォルト値があります。

AnythingLLMのBase URLの末尾に/v1を付ける必要がありますか?

はい。OpenAI互換エンドポイントの場合は必要です。設定ページには文章で記載されていませんが、根拠となるのは、AnythingLLMに同梱されたserver/.env.exampleです。同じ設定がGENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'と記載されています。プロバイダーのソースコードはこの値を変更せずにOpenAI SDKのbaseURLへ渡すため、追加されるのはルートの/chat/completionsだけです。Kunavoの場合、Base URLはhttps://api.kunavo.com/v1です。/v1がない場合、認証エラーではなく404が発生します。どちらのソースも2026年9月21日時点で確認しました。

Generic OpenAIプロバイダーでAnythingLLMにモデル一覧が表示されないのはなぜですか?

表示する一覧がないためです。Selected Modelは手入力するテキスト欄であり、プロバイダーは入力値の事前検証を行いません。AnythingLLMが認識していないエンドポイントに接続することを目的としたプロバイダーの仕様です。そのため、誤入力しても保存時には受け付けられ、メッセージを送信したときに初めてエラーになります。モデルIDの誤りとURLやキーの誤りを切り分けるには、上記の/v1/modelsリクエストを同じURLとキーに対して実行してください。JSONが返れば、エンドポイントとキーは正しく、修正が必要なのはIDです。

KunavoをAnythingLLMの埋め込みモデルとして、チャットモデルと併用できますか?

いいえ。Kunavoは埋め込みモデルを提供していないため、AnythingLLMのうち対応していない部分にあたります。また、AnythingLLMの埋め込みモデルはチャット用モデルとは別のプロバイダーで、ワークスペースごとではなくシステム全体に設定します。後から変更するには、すべての文書を削除して再度埋め込む必要があるため、変更も簡単ではありません。Desktop版に組み込まれているローカル埋め込みモデルか、専用の埋め込みサービスを使い、このエンドポイントはチャットプロバイダー用にしてください。Kunavoは音声からテキストへの変換モデルも、テキストから音声への変換モデルも提供していないため、TranscriptionとVoice & Speechも対象外です。

KunavoはAnythingLLMをエンドポイントに接続してテストしましたか?

いいえ。このセクションに掲載しているクライアントは、Kunavoでいずれも実行していません。このページはテスト報告ではなく、確認時点が分かるよう日付を付けたAnythingLLM独自のドキュメントと同梱ソースの調査です。実際に伝えられるのは、どの項目があり、AnythingLLMが各値をどう扱い、どのデフォルト値にコストがかかるかです。お使いのビルドでエージェントのツール呼び出し、ストリーミング、添付ファイルが特定の動作をしたとは伝えられません。ここでは実行していないためです。ワークスペースを移行する前に、メッセージを1件送信してください。

AnythingLLMのAnthropicプロバイダーをサードパーティのエンドポイントに向けることはできますか?

AnythingLLMが公開または文書化している機能ではできません。このプロバイダーにはUI上にBase URLの項目がなく、ソースコードではキーとヘッダーだけを指定してAnthropic SDKクライアントを生成しています。サードパーティのエンドポイントに接続するサポート対象の方法は、chat completions経由のGeneric OpenAIです。このページではその設定を説明しています。留意点として、Generic OpenAI経由ではcache_controlマーカーが送信されません。そのため、クライアント側からキャッシュを要求する必要があるプロトコルでは、経由してもキャッシュは利用されません。クライアントのマーカーなしでエンドポイントがキャッシュするかどうかは、そのエンドポイントのドキュメントで確認してください。