docker+WSL2+GPU部署 流程&问题记录

初始目标:在Windows机器中用docker的方式部署深度学习模型

CUDA on WSL 的官方文档
https://docs.nvidia.com/cuda/archive/11.1.1/wsl-user-guide/index.html

  • 根据NVIDIA-docker的官方说明,docker+GPU 需要运行在Linux环境中,不支持任何版本的Windows系统。Desktop+WSL2 backend的版本也不行↓

NVIDIA Container Toolkit(原nvidia-docker)does not yet support Docker Desktop WSL 2 backend.

  • LInux环境的需求可以通过Microsoft提供的 WSL2(Windows Subsystem for Linux 2)来做到。
    但是普通Windows安装的WSL2只可以提供Linux环境,并不支持GPU的使用,找不到GPU。

Windows + WSL2 + Docker + NVIDIA-GPU支持

在这里插入图片描述

  • 加入Windows Insider Program 并获得 Preview版本的Windows10 系统:设置-更新与安全-Windows预览体验计划-加入&若干操作。更新与安全-检查更新-更新到latest Preview build。
  • 加入NVIDIA Developer Program,下载NVIDIA提供的特殊Driver,双击进行安装。
  • 根据Win10安装WSL2的官方instruction安装WSL2。
  • 在Linux里安装docker和CUDA-toolkit。这一步与一般Ubuntu里安装CUDA的方法不同,并且要注意不能在WSL2里安装任何新的driver,具体参考 Setting up CUDA Toolkit

Cat机情况:

  1. 缺少权限,账户未能加入WIP,因此不能将Win10系统升级到支持WSL2+GPU所需的版本。
  2. 不能通过微软应用商店下载和安装官方版本的WSL2:应用商店访问受限。(但是没有测试过在Power Shell里使用命令行进行下载和安装。加入WIP后可以在PS里用命令行安装WSL2。)

版权声明:本文为weixin_42427947原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。