结构化输出 schema 里的 anyOf 被忽略 800 条里 96 条缺分支怎么收敛

用严格模式做工单字段抽取,模式里结果字段是两支联合,一支带金额一支带原因。800 条里 96 条解析失败,报错都是缺字段,模型把两支混着填,金额那支少了币种。

第一反应是提示词不够明确,在系统提示里把两个分支的条件重写了一遍,失败降到 71 条。模型能看懂条件,输出时仍然只填第一个分支的键,第二个分支的字段一个都不给。

试过把联合改成互斥,接口直接返回 400,提示不支持这个关键字,严格模式对组合写法的支持很窄。也试过在联合外层补必填声明,同样被拒。这条路上没有调参空间。

最后把结构拍平,状态用枚举区分,两支的字段全部提到顶层,不适用的一律给空值,必填里全写上,禁止额外字段。代码侧按状态收窄类型,缺失的字段由空值兜住,不再触发解析异常。

schema = {
    "type": "object",
    "properties": {
        "status": {"enum": ["paid", "failed"]},
        "amount": {"type": ["number", "null"]},
        "currency": {"type": ["string", "null"]},
        "reason": {"type": ["string", "null"]},
    },
    "required": ["status", "amount", "currency", "reason"],
    "additionalProperties": False,
}

还有一个反直觉的点,模型对字段顺序敏感。把状态字段挪到最后,失败率反弹到四十多条,放回第一位又降下来。模式里的属性顺序会影响生成顺序,先生成判别字段,后面的字段才填得对。这条经验换个抽取任务同样成立。

重跑 800 条,解析失败从 96 条降到 3 条,剩下三条是金额里带货币符号加千分位,属于后处理问题。字段准确率也涨了,币种从八成八到九成九,因为模型不用再判断该不该输出这个键。

拍平会让模式变长,提示词多出约一百八十个 token,一次调用成本涨万分之四元,和重试一次的代价比可以忽略。判断该不该用组合写法,先看后端认不认,再看模型稳不稳,两个都满足才值得试。

您可以还会对下面的文章感兴趣: