few-shot 加到 20 个 prompt 涨到 1200 token 准度反降怎么砍 陆零云 2026-11-09 20:16:15 19 0 一个工单分类任务,label 有 9 个。我一开始很贪心,每个 label 塞 2 个例子,加说明一共 20 个 few-shot,prompt 从 380 token 涨到 1200。跑同一套 200 条测试集,准确率不但没涨,从 88% 掉到 81%,P95 延迟从 1.9 秒变成 3.4 秒。测试集是业务同学标的 200 条历史工单,9 个类每类 20 条上下,指标用 macro F1,避免大类把小数类盖住。 把预测按 label 拆开看,错的集中在...