Agent 记忆库 1.2 万条里捞出旧价格 时间和相似度怎么加权

客服助手挂的记忆库攒到 1.2 万条,用户问这个套餐多少钱,它张口报了一个三个月前的促销价。人工核对,那条记忆是七月写的,早就过期,可相似度排第一。

第一反应是加时间过滤,只取最近七天的记忆。翻表结构才发现,写入时只存了向量和原文,没有时间戳,也没有来源,过滤根本无从下手。

试过按编号倒序取最新五百条,价格问题好了,可用户问上次说的发票抬头,那条在三千条之前,直接被漏掉。旧记忆不能一刀切删掉,得让它变轻,而不是消失。

现在写入补三个字段,时间、来源和键名。检索打分改成相似度占七成,时间衰减占三成,半衰期十四天。价格、库存这类会变的记忆用键名做版本,新值覆盖旧值只留一条;政策、流程这类稳定的记忆不设过期时间,衰减权重也降到一成。

import math
def rank(hit, now):
    days = (now - hit["ts"]).total_seconds() / 86400
    decay = math.exp(-days / 14)
    return 0.7 * hit["sim"] + 0.3 * decay

写入侧也补了去重。同一句话被重复记了十几遍的情况不少,按文本摘要去重,同键名的只留最新一条,记忆总量从一万二降到八千,检索延迟少了三十毫秒。去重不能按相似度做,两句相似但价格不同的记忆合并了就是事故。

回放两百条真实会话,引用过期价格的次数从十七降到一,那一例是用户明确问上个月的活动,本来就该答旧的。发票抬头这类历史问题命中率从五成四到九成一。

衰减系数不是拍出来的,把两成到五成各跑一遍,对比过期引用和历史召回两条曲线,三成附近最稳。键名的粒度也要想清楚,按商品编号太细几乎不冲突,按品类又太粗会把不同型号的价格互相覆盖,最后用的是商品编号加区域。

您可以还会对下面的文章感兴趣:

暂无相关文章