Documentação

AnythingLLM

O AnythingLLM acessa um endpoint para o qual não oferece um provedor específico usando o provedor chamado Generic OpenAI: uma URL base, uma chave e um ID de modelo que você informa manualmente. Dois dos cinco campos têm valores padrão que podem gerar custos sem chamar a atenção.

O AnythingLLM acessa um endpoint para o qual não oferece um provedor nomeado por meio do chamado Generic OpenAI — URL base com /v1, uma chave e um ID de modelo digitado por você, pois não busca nenhuma lista.

Instance Settings → AI Providers → LLM

LLM Provider           Generic OpenAI
Base URL               https://api.kunavo.com/v1
API Key                sk-kn-...
Selected Model         claude-sonnet-5
Model context window   1000000
Max Tokens             8192

A URL base mantém o sufixo /v1. A página de configuração do AnythingLLM não explica isso em texto — quem mostra é o próprio arquivo server/.env.example incluído no pacote, que registra a mesma configuração como GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'; o código-fonte do provedor passa esse valor ao SDK da OpenAI como baseURL, sem alterações, acrescentando apenas a rota. Ambas as fontes foram consultadas em 21 de setembro de 2026.

O Kunavo não foi executado no AnythingLLM contra este endpoint. Esta página descreve a documentação e o código-fonte distribuído pelo próprio AnythingLLM na data indicada abaixo; não é um relatório de teste — uma página de configuração publicada não comprova compatibilidade, e nada aqui deve ser interpretado como tal. A própria página do AnythingLLM é ainda mais direta: "Este é um provedor de LLM voltado para desenvolvedores — você não deve usá-lo a menos que saiba o que está fazendo."

Vale a pena preencher dois campos, embora pareçam opcionais. Se deixar Model context window vazio, o provedor usará o valor padrão de 4096 e calculará o orçamento do histórico, do prompt de sistema e do conteúdo do usuário com base nessa janela presumida. Max Tokens usa o valor padrão de 1024, que trunca respostas longas até você aumentá-lo.

Esta configuração cobre apenas a parte de chat. O embedder do AnythingLLM é um provedor separado, configurado em todo o sistema, e o Kunavo não oferece modelos de embedding — portanto, não o direcione para este endpoint; o embedder local gratuito integrado ou um fornecedor especializado em embeddings atende a essa parte. O Kunavo também não oferece modelos de conversão de fala em texto nem de conversão de texto em fala, então os provedores Transcription e Voice & Speech do AnythingLLM também não correspondem a este endpoint.

Ainda não tem uma chave? Crie uma conta na Kunavo, gere uma chave (ela começa com sk-kn-) e adicione crédito a partir de $10 — as chamadas são pagas com esse saldo, e chamadas malsucedidas não são cobradas. O painel então abre na configuração de AnythingLLM.

Passo a passo

Crie uma chave em /app/keys e copie-a — ela é exibida uma única vez.
Abra Instance Settings → AI Providers → LLM. O caminho é o mesmo no Desktop e em uma instância auto-hospedada; só muda a forma de acessar o painel de configurações.
Em LLM Provider, escolha Generic OpenAI — descrito no próprio cartão como "Conecte-se a qualquer serviço compatível com OpenAI usando uma configuração personalizada".
Preencha Base URL, API Key e Selected Model conforme indicado acima. Selected Model é um campo de texto, não uma lista carregada automaticamente: o provedor não faz uma verificação prévia, então um ID digitado incorretamente é aceito ao salvar e falha na primeira mensagem.
Defina Model context window e Max Tokens em vez de deixá-los vazios; em seguida, clique em Save changes.
Envie uma mensagem em um workspace. Um workspace pode substituir o LLM do sistema; por isso, se a resposta parecer vir do provedor antigo, confira a configuração de modelo do próprio workspace antes de alterar qualquer coisa aqui.

Verificado em Página do LLM OpenAI (Generic) do AnythingLLM em 21 de setembro de 2026. As configurações de terceiros podem mudar; se o nome de um campo aqui já não corresponder ao que você vê, aquela página é a autoridade, não esta.

Esta é a versão resumida. O guia completo — escolha do modelo, custo de uma sessão real e modos de falha — está em quanto realmente custa uma implantação do AnythingLLM.

Verifique antes de depurar o cliente

Uma solicitação determina se a falha está no endpoint, na chave ou no arquivo de configuração. Se isto retornar JSON, a mesma URL base e a mesma chave funcionarão em AnythingLLM.

# Settles whether a failure is the endpoint, the key, or the client.
curl -sS https://api.kunavo.com/v1/models \
  -H "Authorization: Bearer sk-kn-..."

Qual ID de modelo inserir no campo

Todo modelo de texto pode ser acessado como um ID de modelo — a lista atual está em GET /v1/models, e o catálogo com preços está na página de modelos. As tarifas são em USD por 1 milhão de tokens, entrada / saída.

ID do modelo	Entrada / saída da Kunavo	Onde se encaixa em AnythingLLM
`claude-sonnet-5`	$1.40 / $7.00	o modelo de uso diário do workspace para perguntas e respostas sobre documentos
`claude-haiku-4-5`	$0.70 / $3.50	workspaces de alto volume em que a recuperação fornece os fatos
`claude-opus-5`	$3.50 / $17.50	um workspace de agente ou síntese, em que uma resposta errada custa caro
`gpt-5-6-sol`	$2.00 / $12.00	uma segunda família para a mesma chave, por workspace
`gpt-5-6-terra`	$0.70 / $4.20	documentos longos anexados por inteiro em vez de recuperados

A cobrança é por token, usando um saldo pré-pago e sem tarifa mensal — consulte billing. Em contextos repetidos — que representam a maior parte do que um editor ou cliente de chat envia — o cache de prompt altera a conta mais do que a escolha do modelo.

Perguntas frequentes

Como adiciono um endpoint de API personalizado ao AnythingLLM?

Abra Instance Settings, depois AI Providers e LLM, e escolha o provedor chamado Generic OpenAI — o próprio cartão do AnythingLLM diz: "Conecte-se a qualquer serviço compatível com OpenAI usando uma configuração personalizada". Ele oferece cinco campos: Base URL, API Key, Selected Model, Model context window e Max Tokens, além do botão Save changes. Esse provedor é a opção compatível para qualquer endpoint compatível com OpenAI para o qual o AnythingLLM não ofereça uma integração específica. Antes, porém, confira a lista de provedores: serviços como LM Studio, LocalAI e LiteLLM têm provedores próprios, com seus próprios campos de URL base e valores padrão.

A URL base do AnythingLLM precisa terminar em /v1?

Sim, para um endpoint compatível com OpenAI. A página de configuração não explica isso em texto, então a informação conclusiva está no arquivo server/.env.example distribuído pelo próprio AnythingLLM, que registra a mesma configuração como GENERIC_OPEN_AI_BASE_PATH='http://proxy.url.openai.com/v1'. O código-fonte do provedor passa esse valor ao SDK da OpenAI como baseURL, sem modificá-lo, acrescentando apenas a rota — /chat/completions. Para o Kunavo, portanto, a URL base é https://api.kunavo.com/v1. Se faltar /v1, o resultado será um erro 404, não um erro de autenticação. Ambas as fontes foram consultadas em 21 de setembro de 2026.

Por que não aparece uma lista de modelos no provedor Generic OpenAI do AnythingLLM?

Porque não há uma lista disponível: Selected Model é um campo de texto que você preenche, e o provedor não valida previamente o conteúdo. Isso é intencional em um provedor que serve para acessar endpoints desconhecidos pelo AnythingLLM; por isso, um erro de digitação é aceito ao salvar e só falha quando você envia uma mensagem. Para diferenciar um ID de modelo incorreto de uma URL ou chave incorreta, faça a solicitação /v1/models acima usando o mesmo par — se receber JSON, o endpoint e a chave estão corretos, e o ID é o que precisa ser corrigido.

O Kunavo pode ser tanto o embedder quanto o modelo de chat do AnythingLLM?

Não. O Kunavo não oferece modelos de embedding, então não cobre a parte de embeddings do AnythingLLM; além disso, o embedder do AnythingLLM é um provedor separado do provedor de chat. Ele é configurado em todo o sistema, não por workspace, e pode ser difícil de mudar depois, porque a troca exige excluir todos os documentos e gerar os embeddings novamente. Use o embedder local integrado, disponível na versão Desktop, ou um fornecedor especializado em embeddings, e mantenha este endpoint para o provedor de chat. O Kunavo também não oferece modelos de conversão de fala em texto nem de conversão de texto em fala, então Transcription e Voice & Speech também estão fora do escopo.

O Kunavo testou o AnythingLLM contra seu endpoint?

Não. O Kunavo não executou nenhum dos clientes desta seção, e esta página não é um relatório de teste — ela descreve a documentação e o código-fonte distribuído pelo próprio AnythingLLM, com a data indicada para que você possa avaliar o quanto está desatualizada. Ela pode informar com precisão quais campos existem, como o AnythingLLM usa cada valor e quais valores padrão geram custos. Não pode confirmar que chamadas de ferramentas por agentes, streaming ou anexos funcionaram de determinada maneira na sua versão, porque ninguém daqui a executou. Envie uma mensagem antes de migrar um workspace.

Posso configurar o provedor Anthropic do AnythingLLM para usar um endpoint de terceiros?

Não usando os recursos expostos ou documentados pelo AnythingLLM: esse provedor não tem um campo Base URL na interface, e o código-fonte cria o cliente do SDK Anthropic apenas com uma chave e cabeçalhos. A forma compatível de acessar um endpoint de terceiros é usar Generic OpenAI via chat completions, que é o que esta página configura. Há uma consequência a considerar: o caminho Generic OpenAI não envia nenhum marcador cache_control; portanto, um protocolo que exige que o cliente solicite o armazenamento em cache não obterá esse benefício. Se um endpoint armazena em cache sem um marcador do cliente, consulte a documentação desse endpoint.