陆零云
27
0
现象
用 openai 1.40 的 Python SDK 批量生成三百条商品摘要,跑到一半开始抛 RateLimitError,HTTP 状态 429,错误体里写着 rate_limit_exceeded。代码里加了一秒的睡眠重试三次,仍然失败,任务只能中断重跑,已经成功的那部分还要重新花额度。
原因
限流同时看每分钟请求数和每分钟 token 数,长 prompt 很容易先撞 token 上限。服务端会在响应头里给 retry-after,单位是秒,固...
陆零云
40
0
429 不一定是调得太快,先分清 RPM 和 TPM
接口返回 429 时,响应体里通常写着 rate_limit_exceeded,但真正卡住你的可能不是同一条线。OpenAI 按每分钟请求数(RPM)和每分钟 token 数(TPM)双重限流,批处理长 prompt 的任务,每分钟可能只发出去 20 个请求,却因为单条几千 token 先把 TPM 打满;反过来高频短请求撞的多半是 RPM。区分方法看响应头:x-ratelimit-remaining-...