windows,pytorchでcudaが使えない

Question

前提

windows11、pytorch、GeForce GTX 1050Tiでcudaを使いたいができません。もう１週間ここで止まっています。どこが悪いのかご存じの方がおられれば教えてください。

発生している問題・エラーメッセージ

vs codeにて
import torch
print(torch.cuda.is_available())
を実行するとFalseと表示される

GPU ： NVIDIA GeForce GTX 1050Ti

cmdでNVIDIA-SMIコマンドを実行

NVIDIA-SMI 528.02 Driver Version:528.02 CUDA Version:12.0　Processes の部分にはすべてN/Aがたくさん表示されている　(WDDMモードの為？)

cmdでnvcc -Vコマンドを実行

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2021 NVIDIA Corporation
Built on Sun_Mar_21_19:24:09_Pacific_Daylight_Time_2021
Cuda compilation tools, release 11.3, V11.3.58
Build cuda_11.3.r11.3/compiler.29745058_0

visual studio 2022
python 3.8.15
cuda toolkit 11.3
cuDNN v8.7.0(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3)にコピー
visual Studio 2022
このような状態で　
https://pytorch.org/get-started/previous-versions/
(PyTorch公式サイト)にてcuda11.3に対応したバージョンをcondaでインストール

試したこと

それ以外にもcuda　toolkitを11.7、11.6にしてみたがpytorchの公式サイトでpytorch torchvision torchaudio pytroch-cuda=11.6 or 11.7をconda環境でインストールしようとしてみたがこちらは
Solving environment: failed with initial frozen solve. Retrying with flexible solve.
と表示されてしまうためCUDAtoolkitは11.3としています。

Comments

[退会済みユーザー]

> Solving environment: failed with initial frozen solve. Retrying with flexible solve.
https://mujinkp.co.jp/python_failed_frozen/　の方法は参考になりそうですか？

また、別のサイト
https://note.com/tobeblogger/n/n03ee2e62a028　ではPythonのマイナーバージョンを変えては？ということが示唆されています。

https://teratail.com/questions/40jjwq5719zm0w　では仮想環境にインストールしては？とあります。

---
未だにPython3.6や3.7を使っているので「Python 3.8」は私にはずいぶんとがった選択肢に見えます。

[meg_]

> NVIDIA-SMI 528.02 Driver Version:528.02 CUDA Version:12.0
CUDAは12ですか？
Pytorchのバージョンは何ですか？

[meg_]

参考までに下記環境でドキュメント通りにインストールしてGPUを認識しています。
Windows11、Python 3.8.15、Pytorch '1.13.1+cu117'、CUDA Version: 11.8、GeForce RTX 3050 Laptop

[yuuki1991]

fourteenlength様
コメントありがとうございます。添付いただいた上の二つのサイトの方法は試してみたのですが、改善はありませんでした。pythonのバージョンが古いのかと思いpython 3.11をインストールしてみたのですが、逆にこれが新しすぎたのでしょうか？python3.6,3.7のインストールも検討してみます。また初心者の為仮想環境での実行に経験がなくためらっておりましたが、どうしてもできなければやってみようと思います！

[yuuki1991]

meg_様
pytorchのバージョンは1.12.1です。このバージョンが間違っているのでしょうか？

[meg_]

1.12.1だとCUDA 10.2、11.3、11.6になりますね。
nvcc -V の結果は V11.3 ですか？

[yuuki1991]

meg_様
ありがとうございます。

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2021 NVIDIA Corporation
Built on Sun_Mar_21_19:24:09_Pacific_Daylight_Time_2021
Cuda compilation tools, release 11.3, V11.3.58
Build cuda_11.3.r11.3/compiler.29745058_0

とコマンドを入力すると表示されるのでv11.3です。

[meg_]

> cuDNN v8.7.0(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3)にコピー
上記はどういう意図での行為でしょうか？この構成が現状ですか？

[jbpb0]

https://discuss.pytorch.org/t/install-pytorch-for-cuda-11-3-with-pip/152299/2
のptrblckさんの最初のコメントに
「The pip wheels and conda binaries ship with their own CUDA runtime as well as cuDNN, NCCL etc. and won’t be using the system CUDA toolkit.」
と書かれてるので、
https://pytorch.org/get-started/locally/
で「CUDA...(どれか)」を選択したら表示されるインストールコマンドを実行して、pipかcondaでインストールした場合は、pytorchを普通に実行する際にOSにインストールされてるcudaは使われないはずです
(pythonがanacondaかどうかとは無関係に)

その場合にOSで行うのは、
https://www.nvidia.co.jp/Download/index.aspx?lang=jp
から使ってるgpuに合うドライバを落としてインストールするだけです
OSに別途cudaをインストールする必要はありません

OSに別途cudaがインストールされてる場合でも、そのcudaのバージョンやPathの設定は、pytorchがgpuを認識するかどうかには関係しないはずです

なお、どんな場合にOSに別途cudaをインストールしないといけないのかは、
https://discuss.pytorch.org/t/install-pytorch-for-cuda-11-3-with-pip/152299/5
のptrblckさんの二番目のコメントに書かれてます
「The system-wide installed CUDA toolkit will be used if you are building PyTorch from source or a custom CUDA extenstion.」

「building PyTorch from source」をやる人はあまりいないと思うので、あるとしたら「custom CUDA extenstion」ですかね
その場合は、pytorchのインストール時に選択したのと同じバージョンのcudaを別途OSにインストールして、それが使われるようにPathの設定をする必要があると思います

参考
https://torch.classcat.com/2018/05/22/pytorch-tutorial-advanced-cpp-extension/

[jbpb0]

https://symfoware.blog.fc2.com/blog-entry-2395.html
の「vector_add.cu」のコンパイルと実行はできますでしょうか？

正常に実行できるなら、ドライバとgpuは機能してると思います

[yuuki1991]

meg_様
> cuDNN v8.7.0(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3)にコピー
上記はどういう意図での行為でしょうか？この構成が現状ですか？
＞https://aizine.ai/cuda-install1113/
このサイトを参考にcuda toolkitのフォルダにコピーして環境変数を通しております。

[yuuki1991]

jbpb0様
まず、「vector_add.cu」の実行はエラーが出ましたが、そちらは他サイトを参考に実行することができたためドライバとGPUは問題なく動いているということになるんですね。ありがとうございます。

[yuuki1991]

fourteenlength様
meg_様
jbpb0様

たくさんのご回答をありがとうございます。
いろいろなことを試したのでどれがよかったのかわかりかねておりますが、
import torch
print(torch.cuda.is_available())
でTrueになりました！本当にありがとうございます！

[meg_]

解決されたようで良かったです。ただcondaとpipは同一環境で使用するツールではないので、同じ環境で使用するとトラブルが発生しやすくなりますので注意された方が良いかと思います。ご参考まで。

[jbpb0]

私の最初のコメントに書いたように、「torch.cuda.is_available()」を実行する際に必要なのは、下記だけです
　A：gpu(ハード)
　B：ドライバ
　C：pytorchインストール時にpythonに入ったもの

> 「vector_add.cu」の実行はエラーが出ましたが、そちらは他サイトを参考に実行することができたためドライバとGPUは問題なく動いているということになるんですね。

そうですね

cudaのコンパイラを使ってgpuを使うコードをコンパイルして、正常に実行できたのなら、
　A：gpu(ハード)
　B：ドライバ
は大丈夫なはずなので、「torch.cuda.is_available()」がうまくいかない原因は
　C：pytorchインストール時にpythonに入ったもの
にあったのでしょう

そのため、それをpipで入れ直したら、直ったのでしょう

[jbpb0]

> pytorchのバージョンは1.12.1です。

> pipコマンドに変更したところ動きました。

当方のgpu有りwindowsパソコンにcondaでpytorch 1.13.0をインストールしたら、
https://discuss.pytorch.org/t/cannot-import-pytorch-afther-installation/166149
と同じエラーが出たため、pipでインストールし直したら直った、ということがありました

上記webページによると、linux(ubuntu)ではcondaインストールでも問題無いとのこと

この質問とは違う内容だとは思いますが、windowsにcondaでpytorchをインストールするのは、問題が発生し易いのかも
(たまたまかもしれませんが)

Answer 1

CUDA toolkit 11.3をアンインストール後、
pip install torch==1.12.1+cu113 torchvision==0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113
を実行し、再起動したところ解決しました。
anaconda環境だったため、
conda install pytorch==1.12.1 torchvision==0.13.1 torchaudio==0.12.1 cudatoolkit=11.3 -c pytorch
は行っていたのですが、pipコマンドに変更したところ動きました。