促销开抢 5 分钟,订单队列堆到 12 万条。队列用的是 Redis list,lLen 每 10 秒上报一次,曲线从 3000 一路拉到 12 万。消费者 4 个进程,每个每秒 30 条,合计 120 条每秒,算下来要 1000 秒才能追平,实际数字还在涨。
第一反应是加消费者,从 4 个加到 12 个。速度只到 260 条每秒,数据库 CPU 冲到 85%,每条消息一次 insert,连接池排队比队列还长。
改成批量消费。一次取 50 条,拼成一条多值 insert,失败时整批回滚再拆成单条重试,避免一条脏数据卡住另外 49 条。消费者降到 8 个,吞吐到 900 条每秒。
生产端也要限。入口按 800 QPS 放行,超出的直接返回排队页,不写队列。积分、短信、优惠券核销这些不参与下单结果的任务拆到低优先级队列,由另外两个进程消费,主队列只留订单落库。
$rows = $redis->lRange($key, 0, 49);
$redis->lTrim($key, 50, -1);
$db->insert('orders', $rows);
// 50 条一批 失败整批回滚再拆成单条
12 万条在 8 分钟内清空,峰值积压没有再超过 2 万。数据库 CPU 稳定在 55%,慢查询归零。批量重试要幂等,订单号做唯一键,重复插入冲突就跳过,不然拆批重试会多出一批脏单。
消费者数量别拍脑袋。单条消费 12ms,一个进程理论 83 条每秒,打七折按 58 条算,扛 900 条要 16 个进程;批量之后单条摊销到 1.1ms,8 个就够。压测时用 2000 条消息跑三轮,看吞吐和数据库连接数的关系,连接数先满就是池子不够,CPU 先满才是消费逻辑重。
