回源 QPS 冲到 800 源站 5xx 并发上限怎么限到 200

陆零云 8 0
周三上午 CDN 命中率从 92% 掉到 31%,回源 QPS 冲到 800,源站 PHP-FPM 打满,502 持续了 6 分钟。查缓存时间,前一天晚上批量刷新过一次,TTL 都设的 3600 秒,等于第二天同一分钟集体过期。 第一反应是扩源站,临时加了 2 台,回源还是 800,因为 CDN 回源连接没有上限,新机器一样被打满。 在控制台找限速。回源 QPS 限到 200 之后,边缘开始返回旧内容,命中率数字反而好看,但用户拿到的是过期页面。这个配置只...

CDN 预热 800 个 URL 只成 120 个 | 并发压到多少才不卡

陆零云 29 0
活动十点上线,九点跑预热,八百个 URL 提交上去,接口返回成功一百二十个,其余全是 429 和超时。这批页面是提前生成好的静态 HTML,本来应该十几秒就填满边缘节点。 第一反应是并发开太大被限流。预热任务当时是两百并发,我压到五十重跑,成功率涨到六成,但整批要跑四十多分钟,赶不上十点。 去翻源站日志,那段时间 nginx 有大量 502,上游 PHP-FPM 的监听队列排到 128,正常用户请求的 p95 从 200ms 涨到 4.1 秒。回源把应用打...