SSE 流式响应 502 中断后前端不重连怎么排查

现象

前端用 EventSource 订阅 /api/chat,回答输出到一半就断,浏览器控制台报 502 Bad Gateway,随后自动重连,但新一轮请求又从第一句话开始,用户看到的是重复内容。

原因

SSE 是长连接,Nginx 默认会缓冲上游响应,等缓冲区攒满才发给浏览器,看起来像卡住;proxy_read_timeout 默认 60 秒,模型思考时间一长就被切断。后端如果走 PHP-FPM,request_terminate_timeout 也会在中途杀掉进程。断开后前端没有记录事件 id,只能整段重来。

解决步骤

第一步,关闭代理缓冲并拉长超时。给流式接口单独加 location,关闭 proxy_buffering,设置较长的读超时,同时清掉可能导致分块失效的头部。

location /api/chat {
    proxy_pass http://127.0.0.1:9000;
    proxy_http_version 1.1;
    proxy_buffering off;
    proxy_read_timeout 300s;
    proxy_set_header Connection "";
}

第二步,让后端显式声明流式。响应头加 Content-Type: text/event-stream 和 Cache-Control: no-cache,并在应用层输出 X-Accel-Buffering: no,避免 Nginx 再次缓冲。PHP 侧关掉 output_buffering,每输出一段就 flush。

第三步,前端做断点续传。服务端给每个事件带 id,前端记录最后收到的 id,重连时通过 Last-Event-ID 请求后续内容,避免从头生成。重连间隔用指数退避,别每秒重试。

验证

用 curl -N 观察事件是否逐条到达而不是最后一次性吐出;让模型输出超过两分钟,连接不断,前端重连后能从断点继续,说明链路正常。

小结

SSE 中断多数是代理缓冲和超时造成的,不是模型本身。关缓冲、调超时、补事件 id,三处一起改,流式输出才稳定。

您可以还会对下面的文章感兴趣: