网关 1200 个请求后回 GOAWAY | 长连接全重建怎么调

网关日志里每隔四十秒出现一批连接重建,TLS 握手的 QPS 从 300 冲到 2600。前端没报错,但首屏 P99 从 90 毫秒涨到 210 毫秒,用户能感觉到一顿。

第一反应是客户端连接池太小。把池子从 50 调到 200,握手峰值一点没降,反而更高,不是池子的问题。

抓 HTTP/2 的帧。连接传完第 1200 个请求之后收到一个 GOAWAY,last_stream_id 正好是最后一个完成的流。客户端实现没处理这个帧,直接把整条连接扔掉重建。

nginx 的 keepalive_requests 默认 1000,1.25 之前 HTTP/2 还有独立的 http2_max_requests,也是一千上下。我们没改过,等于每千来个请求就主动踢一次连接。

试过只调客户端,让它复用连接不重建,但服务端已经发了 GOAWAY,旧连接上再发请求会被拒,只能等超时,更糟。

grep -r keepalive_requests /etc/nginx/
curl -sI --http2 https://gw.a.com/health
ss -tn state established '( dport = :443 )' | wc -l

服务端把 keepalive_requests 提到 100000,同时保留 GOAWAY 的优雅退出,发完帧之后等两秒再关。改完握手 QPS 峰值降到 180,P99 回到 92 毫秒。

加机器或者发版时还是要重建,这个避免不了。关键是选在低峰做,并且让客户端认 last_stream_id,已经发出去的请求别重试,否则会重复下单。

您可以还会对下面的文章感兴趣: