陆零云
34
0
知识库检索接进客服后,top10 里经常三四条讲同一件事。抽了 1000 次检索日志,平均每次 3.8 条重复,最夸张的一次 10 条全是同一段,只是 chunk 起点差 40 个字。用户看到的是同一句话被复述三遍,答案显得很啰嗦。
根因有两个。切块时重叠设了 128 字符,相邻块天然相似;文档更新后旧版本没删,同一段落有两个 doc_id。只按文本做 set 去重不够,chunk 边界不同,字符串不一样,相似度却有 0.96。doc_id 去重前要先做版...
陆零云
36
0
向量库是 Milvus 2.4,HNSW 索引,metric 用 COSINE,embedding 是 bge-m3。top_k 一开始拍脑袋写 50,理由是多召回点总没错,结果塞给 gpt-4o-mini 的上下文经常到 9000 token,答案反而变散,账单也上去了。
做了一轮对照,120 条问题,固定重排模型,只改 top_k。top_k=5 时 hit@5 是 0.72,10 是 0.86,20 是 0.87,50 是 0.88。10 以后基本走...