“The model is overloaded” 是 Gemini 中唯一不关你的事的错误:该模型的服务池当前没有容量。项目设置无法避免它——你能控制的是如何平稳地度过这段时间,以及问题不消失时选择哪个回退方案。
错误
{
"error": {
"code": 503,
"message": "The model is overloaded. Please try again later.",
"status": "UNAVAILABLE"
}
}原因和解决方法一览
| 原因 | 解决方法 |
|---|---|
| 该模型服务池的需求激增 | 使用带抖动的指数退避;峰值通常会在几秒到几分钟内消退。 |
| 预览版 / 实验性模型变体 | -exp 和 preview 构建版本运行在较小的服务池上,因此最先过载。生产环境请固定使用稳定别名。 |
| 高峰时段的高负载请求 | 超大上下文和最大输出上限在负载下更容易被丢弃——删减不需要的内容,并流式传输响应。 |
确认是 503 UNAVAILABLE,而不是 429
429 RESOURCE_EXHAUSTED 是你的配额问题;503 UNAVAILABLE 是 Google 的容量问题。这个区别决定后续所有处理:配额错误需要调整计费或限制,容量错误需要重试和回退。不要为 503 调试项目设置——那里没有需要寻找的原因。
带退避重试——但要设置预算
503 按定义可重试。使用与任何 429 相同的带抖动指数退避(我们的 Claude 429 指南中的代码片段无需修改即可使用,它已经会重试 500 类状态),但要将总等待时间限制在调用方能够承受的范围内;如果过载在一分钟内经过约 5 次尝试仍未消失,就不会很快恢复。
重试耗尽后:更换模型,而不是继续循环
在需要用到回退链之前就准备好:如果使用的是预览版本,则回退到稳定别名;如果 2.5 Pro 出现问题,则使用 gemini-2-5-flash(反之亦然);对于绝不能失败的请求,也可以完全换用其他提供商。回退会将中断转化为质量下降。
如果你通过 Kunavo 调用
这类失败正是 Kunavo 在请求内部进行重试的原因:当某个模型配置了多个上游通道时,一次失败的尝试会在你看到错误之前切换到另一条通道——暂时的上游失败会变成较慢但成功的请求,而不是你的 503。失败的请求永远不会计费,而且一个密钥即可覆盖 Gemini、Claude 和 GPT,因此第 3 步中的跨提供商回退只需修改模型字符串,无需第二次集成。 正在权衡回退模型?整个 Gemini 系列的每令牌费率及 Google 的官方价格位于 Gemini API 价格表.
常见问题
返回 503 的请求会收费吗?
不会——请求会在推理前被拒绝,因此 Google 不会为其计费;在 Kunavo 上,失败的请求也永远不会计费。503 的代价是延迟和重试,而不是令牌费用。
Gemini 过载会持续多久?
通常为几秒到几分钟;新模型在发布日出现的峰值可能持续更久。因此合理的策略是进行几次退避重试,然后切换到回退模型,而不是无限重试。
升级到付费层级能避免 503 吗?
不能。付费层级会提高你的配额(429 系列),但 503 UNAVAILABLE 来自共享服务容量——服务池饱和时,免费和付费流量都会遇到它。缓解措施是回退,而不是计费升级。