本地向量模型 bge-m3 跑起来 CPU 100%:线程数怎么配 陆零云 2026-11-09 20:43:28 41 0 给站内 5000 篇文档做向量,模型 bge-m3,用 sentence-transformers 3.0.1 在 8 核 16G 的云主机上跑。encode 一开始 CPU 直接 100%,负载 8.4,每秒只能处理 1.8 篇,算下来要 46 分钟。 先怀疑 batch_size 太小,从 32 加到 128,单批时间涨了,总吞吐反而降到 1.5 篇每秒,内存从 3G 涨到 9G。加到 256 的时候容器被 OOM kill,dmesg 里有 oom-...