文档问答的向量表涨到四十万条,维度 768。建 HNSW 索引之前,按余弦距离排序取前十要走全表扫描,一次 150ms。建完索引再测,同样的 SQL 变成 480ms,比不建还慢三倍,第一眼以为索引建坏了。
用 EXPLAIN ANALYZE 看执行计划,走的是 Index Scan using idx_doc_hnsw,索引确实生效了。ef_search 用的是默认 40,按说这个值下召回和延迟应该平衡得不错。再看实际扫描的行数,索引节点访问了四万多次,比预想的多一个数量级。
问题出在过滤条件上。这张表是多租户共用,查询里带 tenant_id = 12,这个租户只占全表的百分之八。HNSW 不支持带过滤的提前裁剪,它先按 ef_search 取四十个候选,再拿这四十个去过滤租户,能剩下的不到三个,凑不够十条,执行器就不断加大候选量,实际上把索引当成了全表扫。
先把 ef_search 从 40 调到 400,召回上去了,耗时也涨到 600ms,等于用延迟换准确率,不能接受。试过给 tenant_id 建 btree 再让它走 bitmap 合并,优化器根本不选,HNSW 的代价估算比实际低太多。
最后升到 pgvector 0.8,用它的迭代扫描。设置 hnsw.iterative_scan 为 relaxed_order,配一个 max_scan_tuples 上限,候选不够就继续往下取,取到上限为止,不会无限放大。
SET hnsw.ef_search = 100;
SET hnsw.iterative_scan = relaxed_order;
SET hnsw.max_scan_tuples = 20000;
EXPLAIN (ANALYZE, BUFFERS)
SELECT id FROM doc_vec
ORDER BY emb <=> '[...]'::vector LIMIT 10;
另一个租户占比更小的库,直接按租户做了分区,每个分区单独建索引,查询只扫一个分区,效果更彻底,代价是新增租户要建分区,运维成本高,只在两个大客户上用了。
验证用一百条人工标注的相关文档算召回,调整前是 0.96,调整后 0.98,接口的 P95 从 480ms 降到 35ms。ef_search 定在 100,max_scan_tuples 两万,超过上限的请求返回降级结果,日志里能查到租户 id。
