vLLM 0.6.4 换机器加载 AWQ 报未知量化 后端怎么补齐

陆零云 27 0
一张 4090 上跑 Qwen2.5-7B 的 AWQ 四比特模型,从开发机搬到生产机,启动直接抛 ValueError: Unknown quantization method: awq,后面跟着一列支持的方法。同一个模型目录在开发机能起,生产机不行,第一反应是权重文件没拷全。 对着 md5 校验了一遍,七个分片都在。又确认 config.json 里 quantization_config 写的是 awq,字段没丢。两边的 vLLM 都是 0.6.4,...

Safari 17 无痕模式 setItem 直接报错 本地存储怎么兜底

陆零云 34 0
客服工作台在 Safari 17 无痕窗口里打开直接白屏,控制台报 QuotaExceededError: The quota has been exceeded,指向初始化时第一次 localStorage.setItem。 第一反应是无痕模式不给写。查了才知道 Safari 给无痕窗口的配额是 0,setItem 任何键都抛,getItem 不报错、返回 null,所以读的那段代码静默通过,写的那段把整个初始化流程打断了。 试过只用 try/catch...

预热 2000 条静态资源全 403 | 防盗链规则怎么放行

陆零云 38 0
新版前端上线前预热两千条静态资源,任务跑完成功率 0,清一色 403。同一批 URL 用浏览器打开全是 200,文件在,是预热这条链路被拦了。 第一反应是 CDN 的预热接口权限不对。把返回体拉出来看,错误来自源站,不是 CDN。源站访问日志里能看到这批请求,状态码 403,Referer 一栏是空的。 防盗链规则写的是 Referer 必须匹配站点域名,空值直接拒。浏览器访问一定带 Referer,预热程序从服务端发起,压根没有这个头。把两边请求头逐行对...

nonce 存 Redis 重启就失效 300 秒重放窗口怎么补回来

陆零云 29 0
安全扫描报了一个重放问题:同一个 nonce 在 4 分钟内被用了两次,两次都成功。接口要求 timestamp 落在 300 秒窗口内,nonce 24 小时不重复。 nonce 存在 Redis,key 的 TTL 是 30 分钟,理论上够。翻监控发现在那两次请求中间有过一次主从切换,从库提升为主,刚写入的 key 还没同步过去,等于丢了。 第一反应是把 TTL 拉到 24 小时,治不了根。主从切换丢数据跟 TTL 长短无关,只跟复制进度有关。 改成两...

库存行更新 1200 QPS 行锁等 8 秒 怎么拆行才够

陆零云 17 0
秒杀接口 P99 4.2 秒,监控里 InnoDB 行锁等待最高 8 秒。库存表就一行,update stock set num=num-1 where sku=1001,峰值 1200 QPS 全打在这条记录上。 第一反应是 SQL 慢,explain 看是主键等值更新,type 是 const,没毛病。加索引没用,同一行的写本来就要串行。 试过把事务改短,扣库存和写订单分开提交,锁持有时间从 18ms 降到 6ms,P99 只降到 3.1 秒。又把 u...

Go 1.22 提前 os.Exit 跳过 defer 日志一条没落盘怎么补

陆零云 24 0
Go 1.22 写的导出工具,主流程把结果写进 bufio.Writer,出错时直接 os.Exit(1),日志也是先攒在内存里再统一输出。上线后发现失败的那几次,输出文件最后两百行永远是缺的,日志目录里也找不到对应的错误行。 第一反应是磁盘满或者权限问题,df 和 ls -l 都正常。加了几行 fmt.Println 再跑,屏幕上能看到错误信息,文件里却没有,说明写是写了,只是没落到盘上。 os.Exit 会立刻结束进程,不走任何 defer,bufio...

UCloud 快杰 2核4G 年付 599 元 独享还是共享怎么确认

陆零云 25 0
UCloud 快杰云主机的活动价,2 核 4G、40G SSD、3M 带宽,599 元一年,续费 1200。快杰系列标的是独享 vCPU,但活动机是不是同一套资源池,页面没写清楚,只能自己压。 判断共享还是独享,看 steal time 最准。共享型机器的物理核被超卖,宿主机调度不过来时,你的进程会被迫等待,这部分时间记在 st 列里。 stress-ng --cpu 2 --timeout 60s --metrics-brief vmstat 1 5 压...

侧栏热销 20 条三年没换:2600 条内链权重怎么轮换

陆零云 19 0
后台的侧栏「热销推荐」是写死的 20 个商品,三年没动。这 20 个链接被 4,100 篇文章引用,日志里它们一天被抓 3.8 万次,其余 900 多个商品平均每天 6 次。 第一反应是链接太少,把 20 条扩到 50 条。上线当天移动端侧栏高度 1,200px,正文被挤到第二屏,跳出率涨了 6 个百分点,三天后回滚。 换方案是轮换,不加数量。按文章所属分类取 6 条同类商品,服务端渲染,同一商品 30 天内不重复出现在同一分类的侧栏。链接总数还是原来的位...

Dompdf 0.8 导 PDF 中文全变问号 报错 font cache 不可写怎么查

陆零云 16 0
合同 PDF 在测试环境中文正常,上线后甲方名字全是问号。日志里有一条 Dompdf\Exception: Unable to create the font cache directory,被 catch 之后只打了行 warning,页面照常输出。 第一反应是字体文件没带上去。把 NotoSansSC-Regular.otf 放进 storage/fonts,setDefaultFont 也改成了 NotoSansSC,问号没变。 再看异常。Dompd...

Pydantic 2.9 模型嵌套生成 $defs 接口报 400 怎么拍平 schema

陆零云 27 0
工单抽取用 Pydantic 2.9 定义结构,模型里嵌了一个地址对象,导出 schema 后带着 $defs 和 $ref。调接口直接 400,原文是 Invalid schema for response_format,后面说 $ref 不被支持。同一个模式在本地校验没问题,卡在服务端。 第一反应是加 additionalProperties: False。报错换了,说定义里还有未解析的引用。把整段定义删掉,字段全丢,模型开始编地址。 试过用 mode...