Claude API 529 overloaded_error — arti kesalahan ini dan cara mengatasinya

Mencegah retry memperparah gangguan

Tangani 529 seperti "429 tanpa Retry-After": mulai dengan exponential backoff sekitar 2 detik, tambahkan jitter, batasi pada 30–60 detik, lalu setelah sekitar lima kali percobaan menyerah dan masukkan pekerjaan ke antrean. Bagian yang benar-benar efektif adalah jitter: tanpanya, semua klien akan kembali pada saat yang sama dan memperpanjang kemacetan yang ingin mereka hindari.

Jangan tumbang, lewati gangguannya

Tentukan rantai cadangan untuk jalur yang sensitif terhadap latensi. Pada endpoint yang kompatibel dengan OpenAI, ini hanya berarti mengubah satu string — tidak perlu menghubungkan SDK lain atau membuka akun tambahan:

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # 過載 —— 試下一個
    raise last

Baru setelah itu curigai program Anda sendiri

Jika hanya satu jenis permintaan yang menghasilkan 529 sementara panggilan lain pada waktu yang sama berhasil, itu bukan gangguan menyeluruh: periksa apakah jalur tersebut mengirim prompt yang sangat besar atau mengirim secara berurutan dalam loop yang sangat singkat. Sebaliknya, jika semua panggilan mulai menghasilkan 529 secara bersamaan lalu pulih sendiri setelah beberapa waktu, penyebabnya adalah kapasitas — yang perlu diubah adalah retry dan cadangan, bukan refaktor.

Apakah 529 adalah masalah saya?

Bukan. Ini adalah masalah kapasitas di sisi provider. Tanggung jawab Anda hanya dua: jangan memperparah gangguan (backoff dan jitter), serta sediakan jalur untuk memutarinya ketika gangguan berlangsung lebih lama daripada anggaran latensi Anda.

Apa perbedaan 529 dan 429?

429 berarti Anda melampaui batas Anda sendiri dan server sehat; 529 berarti server itu sendiri kelebihan beban dan kuota Anda tidak bermasalah. Keduanya dapat di-retry, tetapi hanya 429 yang menyertakan petunjuk Retry-After.

Biasanya berapa lama 529 berlangsung?

Tidak dapat diprediksi dan tidak dapat dijamin — karena itu jawaban yang benar adalah "backoff terbatas dengan antrean", bukan menetapkan waktu tunggu secara permanen di dalam program. Jika jalur tersebut memiliki anggaran latensi, yang seharusnya mengambil alih adalah cadangan, bukan menunggu.

Apakah panggilan yang gagal dengan 529 akan dikenai biaya?

Melalui Kunavo tidak: permintaan yang berakhir dengan kesalahan tidak dimasukkan dalam penagihan. Jika Anda memiliki kontrak langsung dengan provider, hal itu bergantung pada aturan penagihan masing-masing.