提示词只留 8000 token 表结构 | 动态裁剪怎么删才不误伤 陆零云 2026-11-10 10:07:07 25 0 一套 BI 问答的提示词里塞了 63 张表的 DDL,加上字段注释和枚举值,tiktoken 数出来 40218 token。模型是 gpt-4o-mini,输入上限够,但每次调用成本 0.03 元,一天 2 万次就是 600 元,而且长上下文里模型经常看错表名。 第一版按字符截断,只留前 20 张表。结果用户问订单退款,订单表在 41 位,直接被裁掉,SQL 里编出一张不存在的 refund 表。也试过只保留字段名删注释,token 降到 2.8 万,模...