CDN 预热 800 个 URL 只成 120 个 | 并发压到多少才不卡

活动十点上线,九点跑预热,八百个 URL 提交上去,接口返回成功一百二十个,其余全是 429 和超时。这批页面是提前生成好的静态 HTML,本来应该十几秒就填满边缘节点。

第一反应是并发开太大被限流。预热任务当时是两百并发,我压到五十重跑,成功率涨到六成,但整批要跑四十多分钟,赶不上十点。

去翻源站日志,那段时间 nginx 有大量 502,上游 PHP-FPM 的监听队列排到 128,正常用户请求的 p95 从 200ms 涨到 4.1 秒。回源把应用打满了,边缘节点拿不到内容,就给预热接口回 429。

试过把 fpm 的进程数从 8 加到 40,预热是成功了,线上 p95 反而到 2.1 秒,数据库连接数跟着顶到上限。这条路走不通。

换成给预热单独一条回源链路。新起一个 fpm 池只服务回源域名,端口单独开,nginx 上按 Host 分流,再加一层 limit_req 限制回源速率,让预热自己排队,不跟真实用户抢资源。

for i in $(seq 0 25 799); do
  sed -n "${i},$((i+24))p" list.txt > batch.txt
  curl -s -X POST https://cdn.api/preload -d @batch.txt
  sleep 20
done

批大小定在二十五,批间隔二十秒,八百个 URL 分三十二批,全程十六分钟,正好赶在十点前跑完。每批回来都写进日志,失败的单独重投一次。

还有个细节,静态资源没进预热清单。CSS 和图片第一次被访问时本来就会填缓存,预热它们只是把回源压力提前,收益很小,还要占预热配额。

十点活动开始,边缘命中率 96%,回源 QPS 不到三十,源站 p95 稳在 240ms。剩下的失败全是我故意留的三个 404 页面。

您可以还会对下面的文章感兴趣: