当前规则
平台当前不对外承诺固定 QPS、每分钟请求数或并发上限。可用吞吐量会受到成员所分配上游密钥、模型负载和平台保护策略影响。 当平台或上游无法继续接受请求时,会返回429 Too Many Requests。如果响应包含 Retry-After,必须至少等待指定秒数后再重试。
客户端建议值
以下是稳定接入建议,不代表平台硬性额度:
如果业务需要更高吞吐量,请在客户端建立任务队列,不要无限并发提交。
重复提交保护
同一成员、同一操作、完全相同的生成请求内容在 10 分钟内会触发重复提交保护:- 首次请求仍在处理中:返回
409 REQUEST_ALREADY_IN_PROGRESS。 - 首次请求已经成功:复用首次成功响应,并返回响应头
X-Linggan-Idempotency-Replayed: true。 - 首次请求失败:释放记录,后续可以重新提交。

