PytorchがCUDAを正しく認識しない(Path・バージョン確認済み)

前提

anaconda上でPytorchの環境構築を行いたいです。
以前誤ってCUDA11.8でインストールしてしまったため11.7を入れなおすことに挑みましたが、GPUが認識されません。また、Pathは11.7に通っており、11.8は削除済みにかかわらず、11.8が認識されているようです。

環境

Windows11
anaconda
Pytorch 1.13
CUDA 11.7

実現したいこと

PytorchにGPUを認識させる

発生している問題・エラーメッセージ

nvidia-smi

追記

こちらは対応の最新バージョンを示すもので、CUDAはv11.7がインストールされているようです。

Mon Nov 21 17:49:45 2022       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 522.06       Driver Version: 522.06       CUDA Version: 11.8     |
|-------------------------------+----------------------+----------------------+
| GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ... WDDM  | 00000000:01:00.0 Off |                  N/A |
| N/A   38C    P0    13W /  N/A |      0MiB /  4096MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

path

# システム
PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp;

C:\Windows\system32;C:\Windows;C:\Windows\System32\Wbem;C:\Windows\System32\WindowsPowerShell\v1.0;C:\Program Files (x86)\NVIDIA Corporation\PhysX\Common;C:\Program Files\NVIDIA Corporation\NVIDIA NvDLISR;C:\Program Files\NVIDIA Corporation\Nsight Compute 2022.2.1\;C:\Users\UN\AppData\Local\Microsoft\WindowsApps;;C:\Users\UN\AppData\Local\Programs\Microsoft VS Code\bin

# ユーザー
%USERPROFILE%\AppData\Local\Microsoft\WindowsApps;
C:\Users\UN\AppData\Local\Programs\Microsoft VS Code\bin;
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin;
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp;

CUDA

C:\Users\UN>nvcc -V
>>
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Jun__8_16:59:34_Pacific_Daylight_Time_2022
Cuda compilation tools, release 11.7, V11.7.99
Build cuda_11.7.r11.7/compiler.31442593_0

CUDNN

C:\Users\UN>where cudnn64_8.dll
>>:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\cudnn64_8.dll

試したこと

v11.8との共存に挑戦

こちらを行った
→Pytorchに認識させること以外は成功した。
2. v11.8の削除に挑戦
上記のPathを全て手入力で11.7に変更(つまり、11.8の際に登録したPathを全て11.7で上書きした)
→CUDNN以降認識しない；何故？

エラー原因の候補

CUDA：多分違う。(が何故v11.8が認識されている？；やっぱり違うかもしれない)
cuDNN：多分これ(そもそもDLした後何をどこにどうやって移すかが分かっていない可能性があるため；ここではzipを解凍して中のcudnn-windows-x86_64-8.6.0.163_cuda11-archiveの中身のbinなどを全てC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7の中に上書きで移した。)
path ：通っているし多分違う
pytorch：そもそもこいつに合わせてやっているから違う

Sobasenbei

2022/11/21 11:08

再起動しても変わりませんか？また、ユーザ環境変数でなくシステム環境変数の方のcudaのpathは合ってますか

TDL

2022/11/21 11:25

再起動は複数回確認しました。 Pathについても、同様です

Sobasenbei

2022/11/21 12:25

自分の見てみたら cudnn64_8.dll でした

Sobasenbei

2022/11/21 12:25

バージョンで最後の数字は変わると思われます

TDL

2022/11/21 12:59

確認したところ同様に下記が返ってきました。するとanaconda固有の問題なのでしょうか...？ :\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\cudnn64_8.dll

matukeso

2022/11/21 13:51 編集

anacondaのPyTorchは自分用のcudnnをlib/site-packages/torch/libに持っているので、ほかのマイナーバージョンのcudnnがパスに通っているとまずいのでは。

Sobasenbei

2022/11/21 13:23

それはちゃんと通っている証拠ですね pytorchのホームページに書いてるインストール方法はやってみましたか？ pytorch-cuda が必要らしいですが

ujimushi_sradjp

2022/11/21 13:35

Windowsは使っていないので想像ですがAnacondaって自前で用意したcudnnとかインストールしてそちらを使うんじゃなかったかと思います。一度Anacondaのパッケージ等が保存されているフォルダ内を確認してみては?

jbpb0

2022/11/21 22:53 編集

https://discuss.pytorch.org/t/install-pytorch-for-cuda-11-3-with-pip/152299/2 のptrblckさんの最初のコメントに「The pip wheels and conda binaries ship with their own CUDA runtime as well as cuDNN, NCCL etc. and won’t be using the system CUDA toolkit.」と書かれてるので、 https://pytorch.org/get-started/locally/ で「CUDA...(どれか)」を選択したら表示されるインストールコマンドを実行して、pipかcondaでインストールした場合は、pytorchを普通に実行する際にOSにインストールされてるcudaは使われないはずです (pythonがanacondaかどうかとは無関係に) その場合にOSで行うのは、 https://www.nvidia.co.jp/Download/index.aspx?lang=jp から使ってるgpuに合うドライバを落としてインストールするだけです OSに別途cudaをインストールする必要はありません OSに別途cudaがインストールされてる場合でも、そのcudaのバージョンやPathの設定は、pytorchがgpuを認識するかどうかには関係しないはずです > PytorchにGPUを認識させる現状では、下記を実行したらFalseになるのでしょうか？ print(torch.cuda.is_available()) なお、どんな場合にOSに別途cudaをインストールしないといけないのかは、 https://discuss.pytorch.org/t/install-pytorch-for-cuda-11-3-with-pip/152299/5 のptrblckさんの二番目のコメントに書かれてます「The system-wide installed CUDA toolkit will be used if you are building PyTorch from source or a custom CUDA extenstion.」「building PyTorch from source」をやる人はあまりいないと思うので、あるとしたら「custom CUDA extenstion」ですかねその場合は、pytorchのインストール時に選択したのと同じバージョンのcudaを別途OSにインストールして、それが使われるようにPathの設定をする必要があると思います参考 https://torch.classcat.com/2018/05/22/pytorch-tutorial-advanced-cpp-extension/

TDL

2022/11/21 23:56

jbpb0様ありがとうございます。 ``` print(torch.cuda.is_available()) >False ``` になります。 ujimushi_sradjp様つまり、cudnnをcondaに移す必要がある認識でしょうか？ご両名の見解をまとめると - そもそもCUDAはインストール不要で、余計にPathを通したからトラブルが生じている - cudnnは必要がある？上記からの打ち手として - Pathを削除/変更 - cudnnの確認の認識でよろしいでしょうか？

matukeso

2022/11/22 00:08

cudaのpathが通っているのは関係ないが、cudnnをcudaのフォルダに置いたのが間違いというのが私の推測です。 cudaのpathからの排除でも同じ効果が出るでしょうけど。

jbpb0

2022/11/22 01:41 編集

> cudnnをcondaに移す必要があるそんなことしたらダメです condaが管理してるanacondaのディレクトリパスには、必要ならばcondaやpipがファイルを置いてくれますそれ以外のファイルを置くのは、よっぽどな理由(そうしないとバグで動かないとか)がない限り、やらない方がいいです (pythonの詳細を良く理解してる人なら、やってもいいですが) 前のコメントでも紹介しましたが、 https://discuss.pytorch.org/t/install-pytorch-for-cuda-11-3-with-pip/152299/2 のptrblckさんの最初のコメントに「The pip wheels and conda binaries ship with their own CUDA runtime as well as cuDNN, NCCL etc. and won’t be using the system CUDA toolkit.」と書かれてるので、pytorchのインストール時に、cudaやcudnn等の必要なものも一緒にanaconda環境下にインストールされてるはずです > Windows11 anacondaは、直接windows上で動かしてるのですよね？ wslを使ってるのではなく

jbpb0

2022/11/24 04:44 編集

質問のnvidia-smiの実行結果と、 https://global.discourse-cdn.com/nvidia/original/3X/c/9/c98e104c12454ffeb9a162c6b0c1b669cd734919.png を見比べてみてください結果の下半分の「Processes:」のところは、pythonからgpuを使ってない状態でも、上記画像のように「explorer.exe」とか、いくつかは動いてるものです結果の上半分も、下記が変な気がします・Fanや、PwrのCapが「N/A」・Memory-Usageの左が「0MiB」 (pythonが使ってなくても、それ以外の何かが多少は使うだろう) インストールしたドライバは、使ってるgpuの機種に合うやつですよね？また、使ってるgpuの機種は、cuda 11に対応したものですよね？ https://docs.nvidia.com/deeplearning/cudnn/support-matrix/ 【追記】現状でインストールされてるcuda 11.7を使って、 https://symfoware.blog.fc2.com/blog-entry-2395.html の「vector_add.cu」のコンパイルと実行はできますでしょうか？もし正常に実行できないなら、おそらく、インストールしたドライバがちゃんと機能してないのでしょう