直接答案
503 表示服务当前无法处理请求。先检查官方状态和自身网络,再执行有限重试;持续失败时应触发熔断、排队或备用渠道,避免请求风暴让故障进一步扩大。
先记住这四点
- 检查官方状态与请求 ID
- 有限重试而非无限循环
- 配置熔断和队列
- 关键业务准备备用路径
排查顺序
确认错误是否只发生在某个模型、区域或渠道;随后检查 DNS、代理、连接超时和证书问题。保留脱敏后的请求 ID 与时间窗口,便于向服务方定位。
怎样设计降级
非实时批处理可以先进入队列,实时业务则可返回明确的稍后重试状态。只有在质量与合规要求允许时,才切换备用模型或渠道,并记录实际使用的模型,避免结果来源不明。
- 短时失败:退避重试
- 连续失败:打开熔断
- 恢复阶段:逐步放量
常见问题
503 时应该立刻切换渠道吗?
不一定。先确认故障范围,并考虑备用渠道的数据处理、模型差异和成本,关键请求切换前应完成验证。
怎样判断服务恢复?
使用少量探测请求逐步恢复流量,不要在第一个成功响应后立即释放全部积压请求。