4090 显卡在 Docker 容器里 nvidia-smi 报 no devices found 该怎么挂载

现象

宿主机装了 4090 驱动,nvidia-smi 能正常列出显卡,但执行 doCker run --gpus all 进入容器后,nvidia-smi 报 Failed to initialize NVML: no devices found;不指定 --gpus 时又提示 could not select device driver with capabilities。

原因

宿主机驱动正常不代表容器能用。Docker 需要 nvidia-container-toolkit 提供运行时钩子,没装或者装完没重启 docker,--gpus 参数就不会生效。另外 daemon.json 里的默认 runtime 被改成别的值,或者用了 rootless 模式,设备节点也挂不进容器,报错表现都是同一类。

解决步骤

第一步,确认宿主机侧正常。先在宿主机跑 nvidia-smi,再检查 toolkit 是否安装,两样都对再动 docker 配置。

nvidia-smi -L
dpkg -l | grep nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

第二步,用官方镜像做最小验证。跑一个带 CUDA 的基础镜像,只执行 nvidia-smi,能列出卡才说明整条链路通了,再去测自己的业务镜像。

第三步,处理特殊场景。rootless 或 cgroup v2 环境需要额外开启设备访问权限;多卡机器用 NVIDIA_VISIBLE_DEVICES 指定编号,避免容器看到全部设备后和宿主机进程互相抢显存。

验证

容器内 nvidia-smi 显示的驱动版本与宿主机一致,torch.cuda.device_count() 返回预期卡数;跑一段矩阵乘法不报错,说明运行时和驱动都匹配。

小结

容器看不到卡,先查 toolkit 和 docker 是否重启,再用官方镜像验证。绝大多数问题出在运行时没配好,而不是驱动损坏。

您可以还会对下面的文章感兴趣: