least_conn 换上去长尾反涨 200 毫秒 算法怎么挑

陆零云 28 0
商品接口的 P99 一直比 P50 高六倍,四台后端配置一样,负载却总有一台偏高。运维建议把轮询换成 least_conn,说能自动避开慢机器。 换完当天下午,P99 从 620 毫秒涨到 830 毫秒,比改之前更差。监控上四台的连接数倒是很平均,每台八百上下。 第一反应是 least_conn 没生效。nginx -T 确认 upstream 里写的就是它,重载也做了,配置没问题。 问题出在连接数这个指标本身。上游开了 keepalive,每条连接能复用...

聚合接口里又串 5 个下游 800 ms 怎么拆开

陆零云 30 0
商品详情聚合接口 P95 800 毫秒,前端只调一次,看起来很干净。拆开看内部,它顺序调了商品、库存、评价、推荐、运费五个下游,每个 120 到 200 毫秒,加起来正好是 800。 第一反应是加缓存。商品和评价缓存 60 秒,命中率 70%,P95 掉到 600 毫秒就下不去了。库存和运费跟用户地址相关,缓存键太多,命中率只有 20%,等于没加。 接下来拆依赖。库存要商品 id,运费要库存和地址,这三步必须串。评价和推荐只要商品 id,可以跟商品信息一起...

ImageMagick 7.1 批量压 3000 张图 内存飙到 4GB 怎么压回 800MB

陆零云 30 0
图片批处理队列积到 3000 张,跑一半容器被 OOMKilled。PHP 的 memory_limit 是 512M,日志里没有 Allowed memory size,说明内存不是 PHP 自己涨的。 脚本用 Imagick 循环 readImage、thumbnailImage、writeImage,每张 6000×4000 的相机原图。前 800 张正常,第 1200 张开始 RSS 到 4GB,直接被内核杀。 我先以为是对象没释放,每轮加 cle...

bge-reranker 输入 512 token 长段落前 300 字被丢怎么切

陆零云 23 0
知识库的段落平均九百字,重排模型的词表上限五百一十二,代码里直接开了截断。离线评测前十归一化折损只有 0.76,把同一批候选换成人工看,前三条明显该排第一的段落被压到第五。打印 token 才发现,长段落的后半段根本没进模型。 第一反应是把上限提到一千零二十四,批大小从十六降到四,单条一百二十毫秒涨到三百八十毫秒,显存也从 1.1G 涨到 2.3G,和生成模型挤在一张卡上又开始报显存溢出。更麻烦的是模型训练时就是五百一十二,硬拉长后分数分布变了,短段落反而...

Chrome 120 打印总多一张空白页 高度多 1px 怎么删

陆零云 29 0
报价单打印成 PDF,内容刚好一页,Chrome 120 的预览却是两页,第二页全白。第一反应是末尾有多余的空 div,删掉之后还是两页。 量了一下,打印容器 scrollHeight 是 1123px,A4 在 96dpi 下是 1122.5px,多出半像素就够触发分页。试过给容器 transform:scale(0.995),页数回到一页,字却发虚,客户不接受。也试过把字体调小一号,内容短了,行高又不对。 拆到最后一个表格行才找到根因:最后一行有 1p...

HTTP/2 大文件下载卡在 1.8 MB/s 流控窗口怎么调

陆零云 25 0
边缘网关到源站换成 HTTP/2 之后,1 GB 的安装包下载速度从 11 MB/s 掉到 1.8 MB/s,小文件完全正常。单流慢,开八个并发能跑到 12 MB/s,典型的窗口问题。 先算一遍。这条链路 RTT 38 毫秒,1.8 MB/s 约等于 14 Mbps,乘上 0.038 秒,正好 66 KB,和 HTTP/2 默认的 64 KB 初始窗口对得上。 抓包确认。nghttp 的日志里,服务端发出的 WINDOW_UPDATE 每次只加 32 KB...

长任务每片 50 ms 切开 INP 反涨到 480 ms 怎么办

陆零云 27 0
搜索联想框输入两个字符,INP 620 毫秒,手指离开键盘到列表出现有明显停顿。列表一次要渲染 3000 条候选,每条 6 个节点,主线程被一个 480 毫秒的长任务占住。 第一反应是切片。用 setTimeout 每 50 毫秒渲染一批,一批 200 条。改完 INP 降到 480 毫秒,还是超标,而且首字延迟变差了,用户敲第一个字要等 300 毫秒才看到任何结果。 测了几轮才想明白,切片只是把长任务拆成短任务,输入事件仍然排在队列后面。每片之间虽然让出...

Redis 6.2 里 12MB 的 hash 用 hGetAll 取回总超时 怎么拆开换 hScan

陆零云 31 0
商品详情接口 p99 冲到 2.8 秒,慢查询日志指向 Redis。redis-cli --latency 只有 0.2ms,网络没问题。slowlog get 10 里一条 hgetall 花了 620ms,key 是 sku:detail:8801。 这个 key 存了整个 SPU 下 800 多个 SKU 的规格、价格、库存,序列化后 12MB。每次详情页都 hGetAll 全取,再在 PHP 里按 sku_id 找自己那条。 我先调大 read_t...

Faiss IVF_PQ 768 维压到 96 维 召回掉 9 个点怎么补

陆零云 35 0
二百万条知识片段,768 维向量,为了避免内存爆掉用了 Faiss 的倒排乘积量化,聚类中心四千零九十六,子空间 96,每段 8 比特。上线前跑五百条标注查询,前十召回只有 0.78,原来精确内积索引是 0.93,掉了十五个点,业务侧反馈是搜得到但不全。 第一反应是探测簇太少,从 8 提到 64,召回回到 0.84,单次查询从十二毫秒涨到九十毫秒,还是不够。又试子空间 192,每个只压四维,索引从 192 兆涨到 384 兆,召回 0.89,探测 32 个...

Android 14 分享多张图报 NotAllowedError 怎么降级成逐张下载

陆零云 35 0
海报页加了分享按钮,调 navigator.share 把三张图一起发出去。Android 14 的 Chrome 120 直接抛 NotAllowedError,一张一张发是好的,三张必失败。 第一反应是用户手势过期。代码里先 await 压缩三张图,再调 share,中间隔着几百毫秒。把压缩挪到点击之前,仍然报同样的错。单张能成功,说明手势和权限都没问题。 查了 canShare({files:[a,b,c]}),返回 true,浏览器说支持,实际调用...