Claude API 529 overloaded_error — was es bedeutet und wie man es übersteht

Retries so gestalten, dass der Ausfall nicht verschärft wird

Behandle 529 wie „429 ohne Retry-After“. Beginne mit exponentiellem Backoff ab etwa 2 Sekunden, füge Jitter hinzu, begrenze die Wartezeit auf 30–60 Sekunden, gib nach ungefähr fünf Versuchen auf und stelle die Aufgabe in eine Warteschlange. Entscheidend ist der Jitter. Ohne ihn kehren alle Clients im selben Moment zurück und verlängern genau die Überlastung, der sie entkommen wollten.

Nicht verwerfen, sondern weiterleiten

Für latenzkritische Pfade eine Fallback-Kette definieren. Bei einem OpenAI-kompatiblen Endpunkt musst du nur eine Zeichenfolge ändern — weder ein neues SDK noch ein neues Konto ist nötig:

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # 과부하 — 다음 후보로
    raise last

Den eigenen Code erst zuletzt verdächtigen

Wenn nur eine bestimmte Anfrageart mit 529 fehlschlägt, während andere Aufrufe zur selben Zeit funktionieren, handelt es sich nicht um einen vollständigen Ausfall. Prüfe, ob dieser Pfad ungewöhnlich große Prompts sendet oder in einer engen Schleife fortlaufend aufgerufen wird. Wenn dagegen alle Aufrufe gleichzeitig mit 529 fehlschlagen und sich die Lage von selbst beruhigt, ist die Ursache die Kapazität. Dann solltest du Retries und Fallbacks anpassen, nicht den Code refaktorieren.

Ist 529 mein Fehler?

Nein. Es handelt sich um ein Kapazitätsproblem auf Anbieterseite. Deine Verantwortung besteht nur in zwei Punkten: den Ausfall nicht zu verstärken (Backoff und Jitter) und einen Ausweichpfad für den Fall bereitzuhalten, dass der Ausfall länger als die zulässige Latenz dauert.

Was ist der Unterschied zwischen 529 und 429?

429 bedeutet, dass du dein Limit überschritten hast, während der Server normal funktioniert. 529 bedeutet, dass der Server selbst überlastet ist und dein Limit normal ist. Beide Fehler können wiederholt werden, aber nur 429 enthält den Hinweis Retry-After.

Wie lange hält der 529-Status normalerweise an?

Das lässt sich nicht vorhersagen oder garantieren. Daher ist die richtige Lösung ein begrenzter Backoff mit Warteschlange, nicht eine fest im Code verankerte Wartezeit. Wenn der betreffende Pfad eine zulässige Latenz hat, übernimmt der Fallback, statt dass du weiter wartest.

Werden Aufrufe, die mit 529 fehlschlagen, trotzdem berechnet?

Über Kunavo werden sie nicht berechnet. Anfragen, die mit einem Fehler enden, sind nicht abrechenbar. Bei einem direkten Vertrag gelten die Abrechnungsregeln des jeweiligen Anbieters.