API Claude : 529 overloaded_error — que signifie cette erreur et comment la surmonter

Concevoir des nouvelles tentatives qui n’aggravent pas l’incident

Traitez la 529 comme une « 429 sans Retry-After ». Utilisez une temporisation exponentielle commençant à environ 2 secondes, avec gigue, plafonnée à 30–60 secondes ; après environ cinq tentatives, abandonnez et placez le travail en file d’attente. L’essentiel est la gigue : sans elle, tous les clients reviennent au même moment et prolongent la surcharge dont ils tentaient de sortir.

Rediriger plutôt que faire échouer

Définissez une chaîne de secours pour les chemins sensibles à la latence. Avec un endpoint compatible OpenAI, il suffit de modifier une seule chaîne — aucun nouveau SDK ni compte n’est nécessaire :

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # 과부하 — 다음 후보로
    raise last

Ne suspecter mon code qu’en dernier recours

Si une 529 apparaît uniquement pour un type précis de requête alors que les autres appels au même moment aboutissent, il ne s’agit pas d’une panne générale. Vérifiez si ce chemin envoie un prompt anormalement volumineux ou effectue des appels successifs dans une boucle serrée. À l’inverse, si tous les appels passent simultanément en 529 avant de revenir spontanément à la normale, la cause est la capacité. Il faut alors corriger les nouvelles tentatives et le mécanisme de secours, pas refactoriser.

La 529 est-elle de ma faute ?

Non. C’est un problème de capacité du fournisseur. Vos deux seules responsabilités sont de ne pas amplifier l’incident (temporisation et gigue) et de prévoir une voie de contournement lorsque l’incident dépasse la latence acceptable.

Quelle est la différence entre 529 et 429 ?

La 429 signifie que vous avez dépassé votre limite et que le serveur fonctionne normalement. La 529 signifie que le serveur est lui-même en surcharge et que votre limite est normale. Les deux erreurs peuvent faire l’objet d’une nouvelle tentative, mais seule la 429 est accompagnée de l’indication Retry-After.

Combien de temps dure généralement l’état 529 ?

Il est impossible de le prévoir ou de le garantir. La bonne solution est donc une temporisation plafonnée et une file d’attente, et non un temps d’attente fixe inscrit dans le code. Si ce chemin dispose d’un budget de latence, le mécanisme de secours prend le relais au lieu d’attendre.

Les appels échoués avec une 529 sont-ils facturés ?

Ils ne sont pas facturés lorsqu’ils passent par Kunavo. Les requêtes qui se terminent par une erreur ne sont pas facturées. En cas de contrat direct, les règles de facturation de chaque fournisseur s’appliquent.