周三凌晨做完线路割接,早上九点客服转来三条反馈,华南用户打开后台要等两秒多。监控里首页 TTFB 从 180 毫秒涨到 310 毫秒,北方几个省完全正常。
第一反应是去程绕路。从广州机器上跑 mtr 打到源站,前十跳都在 20 到 30 毫秒,最后一跳 32 毫秒,看着很干净。换一台广州电信的机器再跑一遍,结论一样。
割接前的基线我翻了出来,同一条链路回程 30 到 34 毫秒,抖动不超过 5 毫秒。现在稳定在 96 毫秒,不是抖动,是路径真的变了。
去程没问题,那就只剩回程。让源站开抓包看握手,SYN 发出到 SYN-ACK 回来隔了 96 毫秒,正好是去程的三倍。方向定了,问题不在我们这一侧的出口。
我们没有对端路由器的权限,只能借 looking glass。三家上游的公共查询页挨个查,查询页只给最近十分钟的表项,我连着刷了三次,输入我们的 /24,看到的 AS 路径比割接前多了一跳,中间夹着一家没听过名字的小运营商。
让两个受影响的客户帮忙跑了 traceroute,回程倒数第三跳是一台 10 开头的私网地址,再往前才出公网。这条线索基本把方向锁死在路由策略上。
继续翻自己边界上的路由表,多出来一条 /24 明细,是割接脚本顺手带出来的。原来只宣告 /23,现在 /24 更具体,对端按最长匹配把回程导去了另一家。明细路由本来是用来做牵引的,这次忘了撤。
试过在边界上调 local_pref,只影响自己出去的方向,对端回程一点没动。也试过对上游做 AS path prepend,回程仍然走那条明细,白折腾了一个上午。
birdc show route 203.0.113.0/24 all
birdc show route export uplink_a
traceroute -n -q 3 203.0.113.20
# 去程 32 ms 回程 96 ms
最后把 /24 的宣告停掉,只留 /23,再给上游打一条 no-export 的社区属性。二十分钟后路由收敛,回程 RTT 从 96 毫秒回到 30 毫秒,TTFB 也跟着落回 190 毫秒。
割接脚本里补了一步校验,宣告前缀必须和地址池清单一致,多出来的直接报错退出。这类故障最麻烦的地方在于单向延迟,坐在自己机器上永远看不出来。
