工具挂到 12 个后 Agent 选错率 13.7% tool_choice 怎么锁

陆零云 27 0
客服 Agent 挂了 12 个工具,查订单、查物流、退款、改地址各一个。跑了 800 条真实请求,选错工具 110 次,错误率 13.7%,最常见的是该调退款却调了查订单。 第一反应是描述太短,每个从 20 字扩到 200 字,加上参数示例和返回样例,选错率降到 9.8%。可工具定义占了 6000 token,每轮成本涨 40%,延迟多 300 毫秒。 又试了 few-shot,塞 4 条正确调用示例,选错率 8.1%,效果一般。12 个工具放在一个列表...