Claude API 529 overloaded_error — apa artinya dan bagaimana mengatasinya

Membuat percobaan ulang yang tidak memperburuk gangguan

Perlakukan 529 seperti “429 tanpa Retry-After”. Mulai dengan exponential backoff sekitar 2 detik, tambahkan jitter, tetapkan batas 30–60 detik, lalu menyerah setelah sekitar lima kali percobaan dan masukkan pekerjaan ke antrean. Intinya adalah jitter. Tanpa jitter, semua klien kembali pada saat yang sama dan memperpanjang kelebihan beban yang sedang coba diatasi.

Alihkan, jangan biarkan gagal

Tentukan rantai fallback untuk jalur yang sensitif terhadap latensi. Jika endpoint kompatibel dengan OpenAI, yang berubah hanya satu string — tidak perlu membuat SDK atau akun baru:

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # 과부하 — 다음 후보로
    raise last

Meragukan kode saya adalah langkah terakhir

Jika 529 hanya muncul pada jenis permintaan tertentu sementara panggilan lain pada waktu yang sama berhasil, itu bukan gangguan menyeluruh. Periksa apakah jalur tersebut mengirim prompt yang luar biasa besar atau melakukan panggilan beruntun dalam loop sempit. Sebaliknya, jika semua panggilan tiba-tiba menjadi 529 lalu pulih sendiri, penyebabnya adalah kapasitas. Yang perlu diperbaiki saat itu adalah percobaan ulang dan fallback, bukan refactoring.

Apakah 529 kesalahan saya?

Tidak. Ini masalah kapasitas di sisi penyedia. Tanggung jawab Anda hanya dua: tidak memperkuat gangguan (dengan backoff dan jitter), serta menyiapkan jalur pengalihan ketika gangguan berlangsung lebih lama daripada batas waktu latensi.

Apa perbedaan 529 dan 429?

429 berarti Anda melampaui batas, sementara server normal. 529 berarti server itu sendiri kelebihan beban, sedangkan batas Anda normal. Keduanya dapat dicoba ulang, tetapi hanya 429 yang disertai petunjuk Retry-After.

Biasanya berapa lama status 529 berlangsung?

Tidak dapat diprediksi dan tidak dapat dijamin. Karena itu, jawabannya adalah backoff dengan batas dan antrean, bukan waktu tunggu tetap yang ditanamkan dalam kode. Jika jalur tersebut memiliki batas toleransi latensi, fallback akan mengambil alih alih-alih menunggu.

Apakah panggilan yang gagal dengan 529 tetap dikenai biaya?

Jika melalui Kunavo, tidak. Permintaan yang berakhir dengan kesalahan tidak ditagihkan. Untuk kontrak langsung, ikuti aturan penagihan masing-masing penyedia.