限制与运行状态
同一个“调用失败”可能来自五个不同层级。先识别约束发生在哪里,再选择调整配置、降低流量、继续等待或停止重试。
限制描述的是“当前条件下能不能继续调用”,运行状态描述的是“已经提交的请求执行到了哪里”。两者应分开判断。
五层判断模型
相似现象如何区分
状态变化需要连续观察
一次截图只能说明某个时刻。异步任务、额度消耗和服务恢复都会随时间变化,因此排障记录至少包含:
- 首次发生时间和最近发生时间
- 同一请求或任务的状态变化
- 调整前后的请求量、成功率与耗时
- 是否更换过 Key、模型或客户端
- 自动重试是否在问题期间持续运行
建立正常基线
保存一条成功请求
记录正常的状态码、耗时、模型、用量和请求 ID,作为后续对照。
保存各层配置
记录生产 Key 的用途与额度、客户端超时、最大重试次数,以及异步任务的轮询策略。
定义异常阈值
明确成功率下降、429 增加、耗时升高或额度快速下降到什么程度需要处理。
约定处置顺序
先限制异常流量并保存现场,再修正配置或等待恢复;不要在证据收集前频繁更换 Key 和模型。