BFF 把库存和价格串着调 首屏多 800 ms 怎么拆并行

商品详情页的聚合接口 P99 到 1.6 秒,前端只发一个请求,看起来不像网络问题。链路追踪里这个 span 下面挂了五个子调用。

把每个子调用的耗时拉出来,库存 280 毫秒,价格 260 毫秒,推荐 300 毫秒,评价 240 毫秒,店铺 180 毫秒。五个加起来 1.26 秒,加上序列化,跟总耗时刚好对得上。

链路追踪的采样率是 10%,我特意把这一条请求的 trace 全量打开了,五个子调用的时间线才完整。

代码里这五个是按顺序写的,每个都 await 一次。库存和价格互不依赖,推荐也不依赖前两个,只有店铺信息要给价格做兜底,本来没有串行的必要。

第一版改成全部并发,P99 掉到 700 毫秒,但库存偶尔读到旧值。库存和价格共用一个事务上下文,并发之后顺序乱了,数据就不对。这个坑是压测时发现的,正常流量下概率低,大促一开始就放大了。

第二版把有依赖的拆出来,先并发库存和推荐,价格等库存返回再发,店铺跟着价格走。三段并行,总耗时等于最慢的那条链,而不是五段之和。

g, ctx := errgroup.WithContext(ctx)
g.Go(func() error { return loadStock(ctx, &res) })
g.Go(func() error { return loadRec(ctx, &res) })
g.Go(func() error { return loadShop(ctx, &res) })
return g.Wait()

errgroup 里要注意 ctx 取消,任何一个子调用失败,其余的要能及时退出,不然线程会挂在那里等。

还发现一个小问题,每次子调用都新建 gRPC 连接,握手 40 毫秒。改成共享连接池并开 keepalive 之后,单个调用又省下 30 毫秒。连接池按目标服务分开配,库存给 32 个,推荐给 16 个,避免一个慢服务把池子占满。

改完 P99 690 毫秒,P50 从 900 毫秒降到 320 毫秒。监控上补了每个子调用的分位耗时,谁慢一眼能看出来,不用再猜。

上线后连续观察三天,P99 都在 700 毫秒以内,大促当天峰值 1.1 秒,比去年同期的 2.8 秒好很多。聚合层最容易犯的错是把并行写成串行,代码看着干净,延迟全叠在一起。

您可以还会对下面的文章感兴趣: