这是一个创建于 140 天前的主题，其中的信息可能已经有所发展或是发生改变。
1 、由于客户方部署项目的特殊性，使用 windows+docker-desktop 进行项目部署（已经是优化后的方案了）
2 、目前的环境是 服务器（非台式机） win10 专业版+2 张 A40 ，用 docker-desktop 跑推理模型
3 、开发过程中遇到的问题：docker 容器无法调用 GPU ，wsl2 的 ubuntu 里面页无法调用 GPU ，
4 、在尝试了 nvidia container toolkits ，cuda toolkits 等工具安装（ win 版、wls2 的 ubuntu ）无法解决后，怀疑到显卡驱动上了。nvidia-smi 下显示两张 A40 都是 TCC 模式，为数据中心服务器专用的计算模式，不支持虚拟化，即 wsl 后端无法访问。
5 、解决方案：NVIDIA_Display_Mode_Selector_Tool 工具切换显卡模式到 wddm 模式（得先卸载驱动），然后安装驱动后 nvidia-smi 切换驱动为 wddm 模式。 完成后 wsl2 执行 nvidia-smi 可以正常输出，docker 容器可访问 GPU
估计应该是没有人使用这么离谱的方案进行项目部署，所以 google 没找到现成的解决方案，特记录一下。
2 、目前的环境是 服务器（非台式机） win10 专业版+2 张 A40 ，用 docker-desktop 跑推理模型
3 、开发过程中遇到的问题：docker 容器无法调用 GPU ，wsl2 的 ubuntu 里面页无法调用 GPU ，
4 、在尝试了 nvidia container toolkits ，cuda toolkits 等工具安装（ win 版、wls2 的 ubuntu ）无法解决后，怀疑到显卡驱动上了。nvidia-smi 下显示两张 A40 都是 TCC 模式，为数据中心服务器专用的计算模式，不支持虚拟化，即 wsl 后端无法访问。
5 、解决方案：NVIDIA_Display_Mode_Selector_Tool 工具切换显卡模式到 wddm 模式（得先卸载驱动），然后安装驱动后 nvidia-smi 切换驱动为 wddm 模式。 完成后 wsl2 执行 nvidia-smi 可以正常输出，docker 容器可访问 GPU
估计应该是没有人使用这么离谱的方案进行项目部署，所以 google 没找到现成的解决方案，特记录一下。
7 条回复 2025-05-24 15:21:38 +08:00
 | 1 ansemz 140 天前 感谢分享。不过也确实奇葩，宁愿 win+wsl2 也不直接用 linux ？ |
 | 2 hwdq0012 140 天前 我也是 wsl + docker 的老用户了，提醒一下，docker desktop 有 lincense 风险，最好在 wsl 里装 nvidia-docker 2 我今天刚碰到的一个问题是，yolo 在 wsl 里训练正常，转 onnx 时来了一个 c++的异常， 在 ubuntu 上用同样的 docker 则没有这个问题， 也是很卧槽，还好是开发环境，不着急慢慢定位问题 |
 | 3 erquren 140 天前 我 T4 也踩过这个坑，不过并没有找到办法解决，切 linux 了 |
| 6 hwdq0012 140 天前 |
 | 7 uni 139 天前 哈哈，前几天刚遇到过 linux 的 docker desktop 是自己的虚拟环境，无法用 gpu ，建议 linux 之下不要用 docker desktop 了 |
Select Language