Todo modelo tem uma janela de contexto; esse 400 significa que o prompt + a saída solicitada não couberam. A correção ingênua — truncar o prompt às cegas — é o que faz aplicativos RAG ficarem silenciosamente menos inteligentes. Veja como caber na janela sem perder o fio.
O erro
// Anthropic:
{"type":"error","error":{"type":"invalid_request_error",
"message":"prompt is too long: 214481 tokens > 200000 maximum"}}
// OpenAI-compatible:
{"error":{"type":"invalid_request_error","code":"context_length_exceeded",
"message":"This model's maximum context length is 128000 tokens..."}}Causas e soluções em resumo
| Causa | Solução |
|---|---|
| Histórico de chat ilimitado | Mantenha uma janela móvel e um resumo contínuo; não reproduza toda a transcrição em cada turno. |
| RAG recuperando blocos em excesso ou grandes demais | Recupere menos blocos, menores e reordenados — a qualidade supera o volume muito antes de a janela ficar cheia. |
| max_tokens grande demais para o espaço restante | A janela cobre entrada E saída: orçamento = janela − entrada. Dimensione max_tokens para o restante. |
| A carga de trabalho realmente precisa de mais contexto | Mude para uma categoria de modelos com contexto longo (por exemplo, modelos com janela de 1M) em vez de contornar um encaixe rígido. |
Meça antes de reduzir
Conte os tokens da mesma forma que a API: a Anthropic tem um endpoint count_tokens; tiktoken fornece uma aproximação para modelos no padrão OpenAI. Registre a contagem por solicitação — a correção é diferente para um excesso de 1,05× e de 5×.
Reduza recuperação e histórico, nunca as instruções
Corte nesta ordem: (1) turnos antigos do chat → resuma; (2) blocos recuperados → reordene e mantenha os top-k; (3) exemplos few-shot verbosos → use menos exemplos e mais concisos. As instruções do sistema ficam por último — é nelas que o comportamento reside.
Passe para uma janela maior quando o problema for estrutural
Se entradas legítimas excedem a janela semanalmente, isso é um problema de seleção de modelo. Categorias de contexto longo (200K–1M) existem exatamente para análise de contratos, perguntas e respostas sobre bases de código e trabalho com vários documentos — compare o preço da atualização com o tempo de engenharia gasto reduzindo conteúdo.
Se você estiver chamando pela Kunavo
O catálogo da Kunavo abrange várias categorias de contexto — incluindo modelos da família Claude 5 com janela de 1M — usando uma única chave; portanto, elevar uma carga de trabalho de uma janela de 200K para 1M é apenas uma mudança na string do modelo, e cada página de modelo informa sua janela ao lado do preço por token para permitir avaliar o custo-benefício.
Perguntas frequentes
max_tokens conta para a janela de contexto?
Sim — a janela limita a entrada mais a saída gerada. Um modelo com janela de 200K e um prompt de 195K não pode atender a max_tokens: 8000. Calcule o restante e limite max_tokens a esse valor.
O cache de prompts corrige o estouro de contexto?
Não — o cache reduz o CUSTO de prompts longos repetidos, não o tamanho deles. A contagem de tokens contra a janela é idêntica, com ou sem cache.
Guias relacionados
Mais detalhes sobre o significado dos erros estão em referência de erros; obter uma chave leva um minuto por meio de cadastro e da guia de autenticação.