内容被安全策略拦截:返回 400 还是 200 兜底文案怎么判

客服接口接的是 Azure OpenAI,用户问了一句涉及用药建议的话,页面直接空白。控制台里 status 是 200,choices[0].message.content 是空字符串,finish_reason 写着 content_filter。用户以为系统坏了,连点三次。

三种拦截形态都得认。第一种就是上面这个,200 加 finish_reason 为 content_filter,content 为空。第二种是 400,error.code 是 content_filter,innererror 里带 ResponsibleAIPolicyViolation,在 prompt 阶段就被拦。第三种最容易漏,流式输出到一半才触发,前面已经吐了 200 字,最后一个 chunk 的 finish_reason 变成 content_filter,前端把那 200 字照常显示完了。

试过的错法是把拦截当普通失败重试。同一个 prompt 重试三次,三次都被拦,白花 0.02 元,还拖了 9 秒。也试过调低 temperature,安全策略不看这个参数。

现在的处理是统一映射。识别到任何一种拦截,业务层返回码 4510,前端展示固定文案「这个问题我暂时没法回答 可以换个说法或者转人工」,不重试。流式场景收到 content_filter 的 chunk 立刻停止渲染,把已输出的部分替换成兜底文案,避免半截话留在页面上。日志记 request_id、命中的 category 和 prompt 长度,hate 和 self-harm 分开统计。

chunk = next(stream)
if chunk.choices[0].finish_reason == "content_filter":
    emit_fallback()
    break

fr = resp["choices"][0].get("finish_reason")
if fr == "content_filter":
    return 4510

验证用 2000 条红队样本跑,拦截识别率 100%,空白页 0 次。还有一类没覆盖,用户上传的图片经 OCR 后触发文本拦截,走的是另一条链路,得单独加判断。

您可以还会对下面的文章感兴趣:

暂无相关文章