陆零云
29
0
下午财务一次点了五个大导出,二十分钟后整个服务不可用。ssh 上去 df -h,/tmp 使用率 100%,MySQL 报 Can't create/write to file '/tmp/MLxxxx',数据目录和 /tmp 在同一块盘上。
导出代码用 tmpfile(),先把 60 万行写成 CSV,再读出来发给浏览器。600MB 一份,五个人同时点就是 3GB,那台机器的 /tmp 只有 2GB。
第一反应是加磁盘,运维说这块盘和系统盘是同一块,扩不...
陆零云
36
0
摘要任务用 gpt-4o-mini 流式输出两千多条,其中 31 条结尾停在半句。日志里最后那个 chunk 的 finish_reason 是 length,max_tokens 设的 4096,输出确实顶到 4096 才停。不是网络断,是模型被硬截断。
第一版把 max_tokens 提到 8192。截断从 31 条降到 11 条,可长报告该超还是超,单次费用接近翻倍,P95 延迟多了 6 秒。报告长度本来就不可控,调参只是把问题往后推。长报告里还有大...
陆零云
38
0
现象
前端用 EventSource 订阅 /api/chat,回答输出到一半就断,浏览器控制台报 502 Bad Gateway,随后自动重连,但新一轮请求又从第一句话开始,用户看到的是重复内容。
原因
SSE 是长连接,Nginx 默认会缓冲上游响应,等缓冲区攒满才发给浏览器,看起来像卡住;proxy_read_timeout 默认 60 秒,模型思考时间一长就被切断。后端如果走 PHP-FPM,request_terminate_timeout 也会...