Skip to Content
FAQ 与排障限制与运行状态

限制与运行状态

同一个“调用失败”可能来自五个不同层级。先识别约束发生在哪里,再选择调整配置、降低流量、继续等待或停止重试。

限制描述的是“当前条件下能不能继续调用”,运行状态描述的是“已经提交的请求执行到了哪里”。两者应分开判断。

五层判断模型

层级核心问题典型信息常见动作
账户整个账户是否可用状态、余额、总额度处理账户或补充额度
API Key当前调用身份是否可用启用状态、有效期、独立额度更正或调整指定 Key
请求本次调用是否符合限制参数、大小、速率、并发修正请求或降低节奏
任务已受理工作是否仍在执行任务 ID、当前状态、结果继续查询、取消或结束
客户端调用方是否正确等待和解析超时、SSE、重试、连接调整客户端实现

相似现象如何区分

现象可能的限制用什么证据区分
立即失败地址、鉴权、参数或额度HTTP 状态码与错误体
高峰期失败速率或并发429 比例、并发曲线与重试次数
等待很久大输入、长生成、任务排队或客户端超时请求耗时、任务记录与客户端日志
页面失败但后台有记录客户端提前停止等待任务状态、用量变化与请求时间
只有一条业务线失败单 Key 状态或该业务请求形态Key 标识、模型和请求参数
全部业务同时失败账户层或公共服务状态多把 Key 的同时段对照

状态变化需要连续观察

一次截图只能说明某个时刻。异步任务、额度消耗和服务恢复都会随时间变化,因此排障记录至少包含:

  • 首次发生时间和最近发生时间
  • 同一请求或任务的状态变化
  • 调整前后的请求量、成功率与耗时
  • 是否更换过 Key、模型或客户端
  • 自动重试是否在问题期间持续运行

建立正常基线

保存一条成功请求

记录正常的状态码、耗时、模型、用量和请求 ID,作为后续对照。

保存各层配置

记录生产 Key 的用途与额度、客户端超时、最大重试次数,以及异步任务的轮询策略。

定义异常阈值

明确成功率下降、429 增加、耗时升高或额度快速下降到什么程度需要处理。

约定处置顺序

先限制异常流量并保存现场,再修正配置或等待恢复;不要在证据收集前频繁更换 Key 和模型。

快速决策

已确认的信息下一步
状态码明确按 错误处理 进入对应分支
账户正常但单 Key 异常检查 API Key 管理
请求已受理但未完成查询 模型与任务
高峰期出现限流或延迟查看 限流与运行状态
用量或费用无法解释按 计费规则 做记录对照
仍无法定位按 排障指南 收集完整问题现场