WSL2+nvidia-docker+PyTorchの実践的な使い方(2022.5.7)

Summary

やりたいこと

• WindowsのGitHub Desktopやtreeを使ってソースコードの管理を行う
  
• gitリポジトリの実体はubuntuのネイティブFSに置きたい。
  
• 同様に、ソースコードの修正はWindows側でVS Codeを使って作業したい。
  
• 実行などはubuntuのdockerにリモート接続して行う。

1. 正しいフォルダ（src & dataフォルダ）をmountして起動する
2. 正しいユーザで起動する
3. pipの設定なども含めて理想的なコンテナを使う

0. WSL2+nvidia-docker+PyTorchがちゃんと設定できているか確認

前の記事 「WindowsにMacからリモート接続してPythonでGPUを使う(2022.5.6)」を参照

> wsl cat /proc/version
Linux version 5.10.102.1-microsoft-standard-WSL2 (oe-user@oe-host) (x86_64-msft-linux-gcc (GCC) 9.3.0, GNU ld (GNU Binutils) 2.34.0.20200220) #1 SMP Wed Mar 2 00:30:59 UTC 2022

> wsl --list --online
The following is a list of valid distributions that can be installed.
Install using 'wsl --install -d <Distro>'.

NAME            FRIENDLY NAME
Ubuntu          Ubuntu
Debian          Debian GNU/Linux
kali-linux      Kali Linux Rolling
openSUSE-42     openSUSE Leap 42
SLES-12         SUSE Linux Enterprise Server v12
Ubuntu-16.04    Ubuntu 16.04 LTS
Ubuntu-18.04    Ubuntu 18.04 LTS
Ubuntu-20.04    Ubuntu 20.04 LTS

$ cat /etc/issue
$ cat /etc/lsb-release

root@DESKTOP-IOAL04A:~# cat /etc/issue
Ubuntu 20.04 LTS \n \l

root@DESKTOP-IOAL04A:~# cat /etc/lsb-release
DISTRIB_ID=Ubuntu
DISTRIB_RELEASE=20.04
DISTRIB_CODENAME=focal
DISTRIB_DESCRIPTION="Ubuntu 20.04 LTS"
root@DESKTOP-IOAL04A:~# cat /etc/issue

$ docker images
$ docker ps -a
$ docker ps
$ docker inspect CONTAINER_ID

1. WSL2+nvidia-docker+PyTorchの実践的な使い方

2. WSL2+nvidia-docker+PyTorchの仕組み

1. ホストのディレクトリをマウントして起動する方法

ただ立ち上げるなら以下でOK(GPUを全部使うように指定している）
/workspaceには何もマウントされていない

docker run --gpus all -it --rm --shm-size=8g nvcr.io/nvidia/pytorch:22.04-py3

実行したいプログラムのパッケージのルートにcdして、以下のようにdockerを実行すればよい
$(pwd)を/workspace/worksにマウントした状態で起動される

docker run --gpus all -it --rm --shm-size=8g -v $(pwd):/workspace/works nvcr.io/nvidia/pytorch:22.04-py3

WindowsでGitHub Desktopやtreeを使うが、gitリポジトリは、ubuntuのネイティブFSに置いて管理したい。
同様に、ソースコードの修正はWindows側でVS Codeを使って作業したい。
実行などはubuntuのdockerにリモート接続して行う。

docker run --gpus all -it --rm --shm-size=8g -v $(pwd):/workspace/works nvcr.io/nvidia/pytorch:22.04-py3

2. Windows上のGitHub Desktopで、wslのシステム内のファイルを管理

GitHub DesktopでClone a repositpryするときにLocal pathにwslの場所を指定する。

\\wsl$\Ubuntu\home\harada\src\test-test-test

##【参考】

• WSL2 + Dockerのメモ

• Windows 10 の WSL や docker 上で nVidia GPU (cuda) を使う

• GPU有効なJupyter Notebook on Docker on WSL2 on Windowsで動かす

• CUDA on WSL2 ＆ VSCode Remote Containersによる開発環境構築・検証

• Windows 上で Linux コンテナ動かして GPU を触る（vscode編）

• WSL2とDockerとVSCodeのRemote Containersで最高の開発環境をつくる

• Windows上でGPUやGUIが使用できるUbuntu環境をセットアップ！

• Windows 10+wsl 2、NVIDIA gpuを使用

• Dockerを使って爆速でGPUを設定する方法

• DockerでのディープラーニングGPU学習環境構築方法

• 【Docker】GPU が使える Jupyter Notebook 環境を最速で用意する

• 【Docker】Dockerでホストのディレクトリをマウントする

【参考】ユーザアカウントの追加や、実行権限の設定は以下を参考にした。

• How to Add User to Windows Subsystem for Linux (WSL) Distro in Windows 10
• How to Set Default User for Windows Subsystem for Linux (WSL) Distro in Windows 10
• Add or Remove Sudo Users in WSL Linux in Windows 10

3. nvidia-docker2のインストール

   Dockerを手動でインストール（Docker Desktopは入れちゃダメらしい）

   $ curl https://get.docker.com | sh

   リポジトリーとGPGキーを設定

   $ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
   
   $ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
   
   $ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

   ログインしているユーザーをdockerグループへ追加

   $ sudo gpasswd -a $(whoami) docker

   docker.sockにグループの書き込み権限を付与

   $ sudo chgrp docker /var/run/docker.sock

   docker daemonを再起動 して一旦ログアウト

   $ sudo service docker restart
   $ exit

   これで実行できるようになる

4. PyTorchのDockerイメージをイストール

   nvidiaが用意しているPytorch用のdockerのバージョンを指定してダウンロード＆実行する

   $ docker run --gpus all -it --rm --shm-size=8g nvcr.io/nvidia/pytorch:XX.XX-py3

   XX.XXの部分は、下記のホームページに記載されているLatest Tagの値を指定する。

   https://catalog.ngc.nvidia.com/orgs/nvidia/containers/pytorch

   

   この例では、22.04-py3とする

   $ docker run --gpus all -it --rm --shm-size=8g nvcr.io/nvidia/pytorch:22.04-py3

   実行結果

   

   参考にしたブログでは、Shared Memoryの拡張を推奨しているので、同様に”-shm-size=8g”を指定。
   このようなイメージはソースコードが格納されたフォルダをマウントして使うことを想定しているので、実際はファイルコピーはしないことが多い。
   マウントした実践的な使い方は後述（このほか、rootで実行されているなど気持ち悪いので、ユーザ名を指定したい）

5. 動作確認

   設定がうまくできたら、実行してみる。 Ubuntuを立ち上げてrootじゃないユーザーアカウントでログインすると、bashウインドウが立ち上がる。

   $ docker images
   $ docker ps -a
   $ docker run --gpus all -it --rm --shm-size=8g nvcr.io/nvidia/pytorch:22.04-py3

   実行されたら、nvidia-smiを実行してGPUが認識されていることを確認

   $ nvidia-smi

   

   さらに、pythonを実行して、PyTorchから見えているかどうか確認

   $ python
   >>> import torch
   >>> print(torch.cuda.is_available())
   True
   >>> print(torch.cuda.device_count())
   1   

   

【参考】

GPUを使う設定の方法だがTensorflowの例が書かれている

• Get started with GPU acceleration for ML in WSL

• Getting started with CUDA on Ubuntu on WSL 2

  これはどこでやるはずだったか忘れた・・・

  $ sudo apt -y install docker.io

「WSL+docker+CUDA+Pythonの実践的な使い方」に続く＞

Back to Index