vLLM 0.6 双卡 tensor parallel 启动报 NCCL timeout 通信超时怎么排查 陆零云 2026-11-09 16:25:27 43 0 现象 用两张 4090 起 vLLM 0.6 服务,加上 tensor-parallel-size 2 后进程卡在初始化阶段,大约一分钟后报 NCCL timeout,日志里出现 watchdog caught a collective operation timeout 字样,改成单卡启动则完全正常。 原因 张量并行要求两张卡之间做集合通信,NCCL 会自己选择网卡和传输方式。容器里共享内存太小、两张卡挂在不同的 CPU 根节点上、防火墙挡掉了本地回环之...