Lỗi 429 rate_limit_error trong Claude API — ý nghĩa và cách khắc phục

Hãy tôn trọng retry-after khi có

Khi phản hồi có tiêu đề retry-after, đó không phải đề xuất: đó là khoảng thời gian chính xác sau đó yêu cầu mới được chấp nhận lại. Chờ ít hơn chắc chắn sẽ nhận thêm một lỗi 429.

import time
from openai import APIStatusError

try:
    resp = client.chat.completions.create(model=MODELO, messages=msgs)
except APIStatusError as e:
    if e.status_code == 429:
        espera = float(e.response.headers.get("retry-after", 5))
        time.sleep(espera)
        resp = client.chat.completions.create(model=MODELO, messages=msgs)
    else:
        raise

Giới hạn mức đồng thời ngay từ nguồn

Nguyên nhân phổ biến nhất không phải tổng khối lượng mà là một đợt tăng đột biến: hai mươi yêu cầu gửi cùng thời điểm có thể vượt giới hạn mà sáu mươi yêu cầu trải đều trong một phút lại không vượt. Semaphore xử lý được điều mà retry đơn thuần không xử lý được.

import asyncio

LIMITE = asyncio.Semaphore(4)   # no máximo 4 chamadas simultâneas

async def chamar(msgs):
    async with LIMITE:
        return await client.chat.completions.create(
            model=MODELO, messages=msgs)

Xác nhận đó là giới hạn, không phải số dư

429 không bao giờ có nghĩa là thiếu tín dụng — đó là 402. Nếu log của bạn trộn lẫn hai lỗi, hãy tách theo status trước khi điều tra: cách sửa 429 là điều chỉnh thời gian, còn 402 là nạp tiền. Lặp lại 402 sẽ luôn thất bại.

429 có nghĩa là tôi đã hết tín dụng phải không?

Không. Thiếu số dư là 402. 429 liên quan đến tốc độ: bạn đã gửi quá nhiều yêu cầu hoặc token trong thời gian ngắn, và chờ sẽ giải quyết được.

Tôi nên chờ bao lâu?

Nếu có tiêu đề retry-after, hãy chờ đúng khoảng thời gian đó. Nếu không có, dùng backoff cấp số nhân bắt đầu từ 1–2 giây kèm jitter, tối đa 30–60 giây.

Tăng giới hạn có giải quyết được không?

Có thể hữu ích nếu lưu lượng thực sự cao, nhưng phần lớn lỗi 429 đến từ các đợt tăng đột biến ngắn. Giới hạn mức đồng thời thường giải quyết được vấn đề mà không cần thay đổi giới hạn.