限流
Trinity 会在账户、API Key、模型与网关策略等维度限制速率、并发与配额。具体 RPM / 并发 / 日额度以控制台、套餐与商务协议为准,文档不承诺固定数字。
| 我想… | 去这里 |
|---|---|
| 错误码总表 | 错误码 |
| 余额不足 402 | 充值与账单 |
| 打开控制台 | 控制台 ↗ |
限额维度
| 维度 | 说明 |
|---|---|
| 账户 | 关联主账号钱包,全体共享 |
| 工作区 | 归属同一工作区的 Key 共享额度 |
| API Key | 单把 Key 的速率上限 |
| 模型 | 单模型或生产线路的速率与并发 |
速率同时统计 RPM(每分钟请求数)与 TPM(每分钟 token 数)。超出对应上限时返回 429,常用 error.code 见 错误码 user_tpm_limited / user_rpm_limited。
限额类型
| 类型 | 说明 |
|---|---|
| 请求速率 | 单位时间请求数(RPM),超出可能 429 |
| Token 速率 | 单位时间 token 数(TPM),超出可能 429 |
| 并发 | 同时进行中的请求 / SSE 连接数 |
| 用量配额 | 与余额、套餐、价目、结算相关(402) |
常见响应
| 状态码 | 含义 | 建议 |
|---|---|---|
429 | 用户级限流,或上游透传限流 | 指数退避;有 Retry-After 则按其等待 |
402 | 余额或额度不足 | 充值 |
403 | 权限或模型不可用 | Key 与模型权限 |
529 | 上游过载、线路用尽 | 有限次退避重试并记录 X-Request-Id |
5xx | 临时异常 | 有限次重试并记录 X-Request-Id |
INFO
429 可能来自 Trinity 网关(用户 TPM / RPM 上限),也可能来自上游供应商。排障请记录 X-Request-Id 并结合返回的 error.code 判断。具体限额数字以控制台、套餐与商务协议为准。
客户端建议
- 对 429 与临时 5xx 使用指数退避,并设最大重试次数。
- 记录
X-Request-Id。 - 流式请求设超时与并发上限。
- 不要在客户端硬编码限额数字。