TCP 重传率 3.2% 用 mtr 逐跳看 第 6 跳起丢包怎么确认

监控面板上 TCpRetransSegs 的曲线从早上八点开始往上走,重传率算下来 3.2%,正常应该在 0.5% 以下。用户侧反馈是下载附件慢,网页本身还能开,说明丢的不是控制报文而是数据段。

先排除本机网卡。ethtool -S 看 tx_dropped 和 rx_missed 都是 0,ss -ti 看 Established 连接的 retrans 字段,几条连接分别是 12/3400 和 8/2900,确实在重传。拥塞窗口掉到 10 以下,一直在退避。

mtr 从服务器往用户 IP 打,200 个包。第 6 跳开始丢 30%,第 7 到第 12 跳都是 28% 到 31%,最后一跳又回到 0.5%。这个形状很典型,中间连着几跳同时丢,末跳正常,八成是 ICMP 限速不是真丢包。

换 TCP 模式再打一次,mtr -T -P 443,丢包变成 0.2%,和业务侧对不上。用户下载确实慢,那问题可能不在去程。反向让用户往我们这边打,第 4 跳 25% 丢包,末跳 26%,这次是真的。

那一跳属于某省联通的汇聚层,我们没有权限改。能做的只有把重传的影响压下去:tcp_slow_start_after_idle 关掉,空闲后窗口不被重置;tcp_notsent_lowat 设 16384;BBR 之前就开了,拥塞控制不是瓶颈。改完重传率还是 3% 左右,单连接吞吐从 400KB/s 回到 1.8MB/s,用户不再投诉。

# 先 TCP 模式 再反向复用一次
mtr --report --report-cycles 200 -T -P 443 203.0.113.7
# Hop 6  Loss 30.1%  Avg 42.6  Best 38.1  Wrst 118.4
# Hop 7  Loss 29.8%  Avg 43.0  Best 38.4  Wrst 121.7
# Hop 12 Loss 0.5%   Avg 47.2  Best 41.0  Wrst 96.3
nstat -az TcpRetransSegs TcpOutSegs

最后那个 nstat 是用来算比例的,重传段数除以发送段数,比监控面板上的采样值准。每跳都丢和只有末跳丢,处理方向完全不一样,前者找运营商,后者查自己。

您可以还会对下面的文章感兴趣: