现象
压测一个 HTTP 接口,QPS 推到 3000 左右时客户端开始报 Cannot assign requested address,请求批量失败。登录机器看 ss -s,TIME_WAIT 显示 5 万多,本地随机端口已经所剩无几,服务重启后能撑几分钟又复现。
原因
短连接由客户端主动关闭时,socket 要保留 2MSL 也就是 60 秒才能释放,这期间端口不能复用。默认 ip_local_port_range 是 32768 到 60999,可用端口不到 2.8 万个,换算下来每秒能发起的新连接被硬性限制在 460 个左右。QPS 一高,端口池先被 TIME_WAIT 占满,内核就返回地址不可用,而不是连接被拒。
解决步骤
第一步,确认是本地端口耗尽而不是服务端限流。看 TIME_WAIT 数量和端口范围,同时确认这些连接是本机主动关闭的。
ss -s
ss -tan state time-wait | wc -l
cat /proc/sys/net/ipv4/ip_local_port_range
ss -tan | awk '{print $1}' | sort | uniq -c
第二步,开 reuse 并扩大端口范围。tcp_tw_reuse 只对本机发起的出向连接生效,配合 tcp_timestamps 使用是安全的;tcp_tw_recycle 在 NAT 环境下会误丢包,新内核已移除,不要开。
第三步,从架构上减少短连接。客户端改用连接池,Nginx 到后端配 upstream keepalive,把每秒几万次的关闭动作降到几百次,参数才有意义。
验证
重新压测,ss -s 里 TIME_WAIT 稳定在几千条不再持续上涨,日志里不再出现 Cannot assign requested address,端口范围与连接池配置都生效。
小结
TIME_WAIT 本身不是故障,是 TCP 的正常状态。先判断是不是端口池被打满,再用 reuse 加端口范围缓解,最后靠长连接从根上减少数量,三层配合才不会反复。
