站上开了双栈之后,后台陆续收到十几条反馈说打开慢。抓了三个用户的 HAR,都是 3.1 秒左右才出内容,时间线前 3 秒完全没有响应,然后切到 IPv4 一次成功。这个 3 秒就是浏览器 Happy Eyeballs 的回退窗口。
服务器上 ping6 网关和上游都通,100 个包丢 0。换到公网节点就不是一回事,六个省的拨测里有三个省 100% 不通,另外三个正常,同一时刻 ping 对应 IPv4 全通。
traceroute6 打到第 5 跳之后全是星号,第 4 跳还是上游的地址。报文出去了,回程没有路由。找上游要了 looking glass,在他们设备上看去我们 /64 的路由,下一跳指向另一家运营商,对方没有把回程指回来。
典型的单向黑洞。IPv6 没有 NAT 兜底,去程通回程断就是全断,比 IPv4 更难发现,因为大部分监控只测 ICMP 去程,通了就画绿。
短期处理是把 AAAA 的 TTL 从 600 压到 60,然后暂时摘掉 AAAA,先让用户走 IPv4。同时在智能 DNS 里把 AAAA 只对已知良好的省份返回。
上游修路由用了四天,期间早晚各拨测一次,把每一跳的丢包都记下来:
mtr -6 --report --report-cycles 200 2408:8000::1
traceroute6 -n -q 3 -w 2 2408:8000::1
ping6 -c 100 -i 0.2 2408:8000::1 | tail -3
监控也补了一版,拨测从纯 ICMP 改成 TCP 443 握手加首字节,双栈域名分 v4 和 v6 两条线分别登记,哪条断了都能单独告警。
这段路后来被上游改走 CN2,回程打通以后 v6 的首字节反而比 v4 快 12ms。修好后恢复 AAAA,TTL 先给 60,一周内慢慢加回 300。判断修好不能只看 ping6 通,得看 mtr 最后一跳 200 个包 0 丢,再看三地拨测的 443 握手成功率和首字节时间。
