AI 接口偶发 502 重试后重复计费 幂等键怎么加才不扣两次

陆零云 29 0
AI 网关一天 8600 次调用,账单里多出 47 笔重复扣费,都是同一个 request_id 扣了两次。查日志,第一次请求上游其实已经算完,网关等响应时超了 30 秒,回了 502,客户端按重试策略又发一遍,上游不知道这是同一件事,照常计费。 最初的重试是遇到 502 就重发,间隔 2 秒,最多 3 次。问题在于 502 分两种,一种是请求没到上游,重试安全;一种是上游算完了但回包丢了,重试就是二次计费。网关当时没有区分,一律重试。 现在客户端每次请求...