Ollama 换小模型后 nvidia-smi 显示显存还被大模型占着不释放 怎么彻底清掉

陆零云 58 0
现象:70B 模型换成 7B,显存还剩 90% 不释放 本地跑 Ollama,先拉了 70B 模型占了 40GB 显存,跑完换 7B 小模型,nvidia-smi 一看显存还被那个大模型的 CUDA context 占着,只腾出了 3GB。重启 ollama 服务也没用,内存泄漏一样一直堆,最后只能 kill -9 所有 ollama 进程。 原因:Ollama 默认让模型留在内存里 Ollama 有个 keep_alive 参数,默认 5 分钟,模型跑...