Claude API 529 overloaded_error — lỗi này nghĩa là gì và cách xử lý

Retry mà không làm sự cố trầm trọng hơn

Hãy xử lý 529 như 429 không có Retry-After: dùng exponential backoff bắt đầu từ khoảng 2 giây, kèm jitter, giới hạn ở 30–60 giây, bỏ cuộc sau khoảng năm lần thử và đưa công việc vào hàng đợi. Jitter là yếu tố then chốt: nếu không có nó, tất cả client sẽ quay lại cùng lúc và kéo dài chính tình trạng quá tải mà chúng đang cố thoát khỏi.

Chuyển hướng thay vì ngừng hoạt động

Với các luồng nhạy cảm với độ trễ, hãy định nghĩa một chuỗi dự phòng. Trên endpoint tương thích với OpenAI, đây chỉ là thay đổi một chuỗi ký tự — không cần SDK thứ hai, không cần tài khoản thứ hai:

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # überlastet — nächste Stufe versuchen
    raise last

Chỉ sau đó mới kiểm tra mã của bạn

Nếu 529 chỉ xuất hiện với một loại yêu cầu duy nhất trong khi các lệnh gọi khác cùng lúc vẫn thành công, thì đó không phải sự cố diện rộng: hãy kiểm tra xem luồng này có gửi prompt lớn bất thường hoặc chạy trong vòng lặp quá sát nhau hay không. Ngược lại, nếu lỗi xuất hiện ở mọi lệnh gọi cùng lúc rồi tự biến mất, đó là vấn đề năng lực hệ thống — khi ấy cần retry và dự phòng, không phải tái cấu trúc.

529 có phải lỗi của tôi không?

Không. Đây là vấn đề năng lực ở phía nhà cung cấp. Trách nhiệm của bạn chỉ là không làm sự cố trầm trọng hơn (backoff, jitter) và có đích dự phòng nếu sự cố kéo dài hơn ngân sách độ trễ của bạn.

529 hay 429 — khác nhau ở đâu?

429 nghĩa là bạn đã vượt quá giới hạn của mình, còn máy chủ vẫn hoạt động bình thường. 529 nghĩa là chính máy chủ đang quá tải, còn hạn mức của bạn vẫn ổn. Cả hai đều có thể retry; chỉ 429 đi kèm gợi ý Retry-After.

Một giai đoạn 529 thường kéo dài bao lâu?

Không thể dự đoán và cũng không thể đảm bảo — vì vậy câu trả lời đúng là backoff có giới hạn cộng với hàng đợi, không phải một thời gian chờ được ghi cứng trong mã. Nếu luồng của bạn có ngân sách độ trễ, hãy dùng phương án dự phòng thay vì chờ.

Các lệnh gọi thất bại với 529 có bị tính phí không?

Qua Kunavo thì không: yêu cầu kết thúc bằng lỗi sẽ không bị tính phí. Với hợp đồng trực tiếp, điều này phụ thuộc vào quy định thanh toán của từng nhà cung cấp.