Gemini 503 „The model is overloaded“ (UNAVAILABLE) — funktionierende Wiederholungen und wann Sie aufhören sollten

„The model is overloaded“ ist der eine Gemini-Fehler, der nicht an Ihnen liegt: Der Bereitstellungspool für dieses Modell hat gerade keine Kapazität. Keine Projekteinstellung kann das verhindern — Sie kontrollieren nur, wie gut Sie die Überlastung abfangen und welchen Fallback Sie verwenden, wenn sie nicht verschwindet.

Der Fehler

response (HTTP 503)

{
  "error": {
    "code": 503,
    "message": "The model is overloaded. Please try again later.",
    "status": "UNAVAILABLE"
  }
}

Ursachen und Lösungen im Überblick

Ursache	Lösung
Nachfragespitze im Bereitstellungspool dieses Modells	Exponentielles Backoff mit Jitter; die Spitze ist normalerweise nach wenigen Sekunden bis einigen Minuten vorbei.
Vorschau-/experimentelle Modellvarianten	-exp- und Preview-Versionen laufen auf kleinen Pools und werden zuerst überlastet. Fixieren Sie für die Produktion den stabilen Alias.
Schwere Anfragen während Spitzenzeiten	Große Kontexte und hohe Ausgabelimits werden unter Last eher abgewiesen — kürzen Sie Unnötiges und streamen Sie die Antwort.

Bestätigen Sie, dass es 503 UNAVAILABLE und nicht 429 ist

429 RESOURCE_EXHAUSTED betrifft Ihr Kontingent; 503 UNAVAILABLE betrifft Googles Kapazität. Diese Unterscheidung entscheidet über alles Weitere: Kontingentfehler erfordern Änderungen an Abrechnung oder Limits, Kapazitätsfehler Wiederholungen und Fallbacks. Debuggen Sie bei einem 503 nicht Ihre Projekteinstellungen — dort gibt es nichts zu finden.

Mit Backoff wiederholen — aber mit einem Budget

503 ist definitionsgemäß wiederholbar. Verwenden Sie dasselbe exponentielle Backoff mit Jitter wie bei jedem 429 (das Snippet aus unserem Claude-429-Leitfaden funktioniert unverändert — es wiederholt bereits Statuscodes der 500er-Klasse), begrenzen Sie jedoch die Gesamtwartezeit auf das, was Ihr Aufrufer verkraften kann; eine Überlastung, die nach etwa fünf Versuchen über eine Minute anhält, wird nicht schnell verschwinden.

Wenn die Wiederholungen ausgeschöpft sind: Modell wechseln, nicht die Schleife

Halten Sie eine Fallback-Kette bereit, bevor Sie sie brauchen: den stabilen Alias, wenn Sie eine Preview-Version verwendet haben, gemini-2-5-flash, wenn 2.5 Pro Probleme macht (oder umgekehrt), oder für eine Anfrage, die nicht fehlschlagen darf, einen ganz anderen Anbieter. Fallbacks verwandeln einen Ausfall in eine Qualitätseinbuße.

Wenn Sie Kunavo verwenden

Dieser Fehlermodus ist der Grund, warum Kunavo innerhalb der Anfrage wiederholt: Wenn für ein Modell mehrere Upstream-Kanäle konfiguriert sind, wechselt ein fehlgeschlagener Versuch zum anderen Kanal, bevor Sie den Fehler sehen — ein vorübergehender Upstream-Fehler wird zu einem langsameren Erfolg statt zu Ihrem 503. Fehlgeschlagene Anfragen werden nie berechnet; da ein Schlüssel Gemini, Claude und GPT abdeckt, ist der anbieterübergreifende Fallback in Schritt 3 nur eine Änderung der Modellzeichenfolge statt einer zweiten Integration. Sie erwägen ein Fallback-Modell? Die Tokenpreise für die gesamte Gemini-Familie stehen neben Googles Listenpreisen auf der Gemini-API-Preisliste.

Häufig gestellte Fragen

Werden Anfragen berechnet, die 503 zurückgeben?

Nein — die Anfrage wird vor der Inferenz abgewiesen, daher berechnet Google sie nicht; auch bei Kunavo werden fehlgeschlagene Anfragen nie berechnet. Die Kosten eines 503 bestehen aus Latenz und Wiederholungen, nicht aus Token.

Wie lange dauern Gemini-Überlastungen?

Normalerweise Sekunden bis wenige Minuten; Lastspitzen am Starttag eines neuen Modells können länger dauern. Deshalb ist eine vernünftige Strategie eine Handvoll Backoff-Wiederholungen und anschließend ein Fallback-Modell — keine unbegrenzte Wiederholungsschleife.

Beenden kostenpflichtige Tarife 503-Fehler?

Nein. Kostenpflichtige Tarife erhöhen Ihre Kontingente (die 429-Familie), aber 503 UNAVAILABLE betrifft gemeinsam genutzte Bereitstellungskapazität — kostenloser und kostenpflichtiger Datenverkehr sehen den Fehler, wenn ein Pool gesättigt ist. Fallbacks sind die Abhilfe, nicht die Abrechnung.