Lỗi 529 overloaded_error của API Claude — đó là gì và cách xử lý

Thử lại mà không khuếch đại sự cố

Hãy xử lý 529 như 429 không có Retry-After: backoff lũy thừa bắt đầu từ khoảng 2 giây, kèm jitter, giới hạn ở 30–60 giây, dừng sau khoảng năm lần thử và đưa công việc vào hàng đợi. Jitter là phần quan trọng: nếu không có nó, tất cả khách hàng sẽ quay lại cùng lúc và kéo dài chính tình trạng quá tải mà họ đang cố thoát khỏi.

Chuyển đổi thay vì sập

Trên các tuyến nhạy cảm với độ trễ, hãy xác định chuỗi dự phòng. Trong một endpoint tương thích với OpenAI, đó chỉ là thay đổi một chuỗi văn bản — không cần SDK thứ hai và không cần tài khoản thứ hai:

PREFERRED = ["claude-sonnet-5", "claude-haiku-4-5", "gpt-5-6-terra"]

def complete(messages):
    last = None
    for model in PREFERRED:
        try:
            return client.chat.completions.create(
                model=model, messages=messages, max_tokens=800)
        except APIStatusError as e:
            if e.status_code not in (429, 500, 529):
                raise
            last = e          # saturado — probar el siguiente nivel
    raise last

Và chỉ khi đó mới xem xét mã của bạn

Nếu 529 chỉ xuất hiện ở một loại yêu cầu trong khi các lệnh gọi khác vẫn đồng thời thành công, đó không phải sự cố chung: hãy kiểm tra xem tuyến đó có gửi prompt lớn bất thường hoặc kích hoạt trong một vòng lặp kín hay không. Ngược lại, nếu tất cả lệnh gọi đều bị ảnh hưởng cùng lúc rồi tự biến mất, đó là vấn đề về năng lực — và khi đó cần xử lý bằng thử lại và dự phòng, không phải tái cấu trúc.

529 có phải lỗi của tôi không?

Không. Đây là vấn đề về năng lực ở phía nhà cung cấp. Trách nhiệm duy nhất của bạn là không khuếch đại sự cố (backoff, jitter) và có phương án dự phòng nếu sự cố kéo dài hơn ngân sách độ trễ của bạn.

529 và 429 khác nhau thế nào?

429 có nghĩa là bạn đã vượt hạn mức của mình, còn máy chủ vẫn ổn. 529 có nghĩa là chính máy chủ đang quá tải, còn hạn mức của bạn vẫn ổn. Cả hai đều có thể thử lại; chỉ 429 mới đi kèm gợi ý Retry-After.

Một đợt 529 thường kéo dài bao lâu?

Không thể dự đoán hay bảo đảm — đó là lý do phản hồi đúng là backoff có giới hạn cộng với hàng đợi, chứ không phải thời gian chờ cố định trong mã. Nếu tuyến của bạn có ngân sách độ trễ, phương án dự phòng sẽ tiếp quản thay vì tiếp tục chờ.

Các lệnh gọi kết thúc bằng 529 có bị tính phí không?

Qua Kunavo thì không: một yêu cầu kết thúc bằng lỗi sẽ không bị tính phí. Với hợp đồng trực tiếp, điều này tùy thuộc quy tắc tính phí của nhà cung cấp tương ứng.