0
1
テーマ、知りたいこと
python環境におけるnvidiaのCPUを用いた環境についてお聞きしたいです。
背景、状況
プログラミングを始めてから機械学習に関するプログラミングを学び、処理速度を向上したいと考えました。購入したnvidiaのGPU（GeFrorce RTX 5060）をつなげてみようと試してみたのですが、がgoogle colablatoryのGPU(T4)での実行よりも遅いため何か設定に不足していることがあるのではないかと思い投稿させていただきました。
ターミナルでtorchをインストールして、print(torch.cuda.is_available()) を実行したら、
Trueと出力が確認できるところまではできました。
自作PCでの実行にはなりますが、グラフィックに明かりがついているのと、タスクマネージャーのパフォーマンスで温度が使用率が変化しているので接続はできているかと思います。
回答4件
#2
回答ありがとうございます。
深層学習をするにあたって、市販のグラフィックボードを購入する場合、VRAMは16GB以上で5060Ti以上の購入を検討した方がよろしいでしょうか。
今現在やっている内容は、torchやtensorflowを使用した画素数ごとバッチ処理による画像生成(大学では使用制限のあるgoogle colab latoryのT4で学習)と大規模言語モデルのLLMを使用したテキスト生成(大規模言語モデル入門という書籍からプログラムを模写して実行して動作確認)をしています。
#3
総合スコア3640
投稿2025/12/15 22:49
編集2025/12/15 22:59自分はStableDiffusionを触った程度で、AIは詳しくはないので、明言は避けておきますが…。
そのStableDiffusionを、Geforce1660ti(VRAM 8GB 6GB)とGeforce3060(12GB)とRadeon9060xt(16GB)で実行しましたが、1660で数分かかった処理が、他のグラボだと数十秒程度で終わる、といった感じでした。
まぁ世代も違うし、動かした環境も違うのであまりあてにはならないかもしれませんが、あまりに違いが出ているので、やっぱり8GBとそれ以上で差はあるのかなぁ、とは思っています。
ただ、ネットで調べると、やることによっては8GBでも十分、という話もあるそうです。
画像作成であれば、12GB以上は欲しい、という話も多いようです。
(てか、これ書くために仕様を確認したけど、3060ってVRAMが12GBだったのか。今までずっと16GBだと思いこんでいた)
(なんか調べ直したら、1660tiも8GBだと思っていたら、6GBだった)
#4
総合スコア10535
投稿2025/12/16 02:58
横やりで失礼しますが、用途次第でVRAMの必要量が大きく変わるので、ちゃんと用途を決めてから買ったほうがいいです。
私はRTX 4060Ti 16GBですが、GPU自体が遅いのを抜きにしても
- Qwen-Image-Edit-2509でも通常版では普通に16GBオーバーする
- LLMだとGGUF版で14Bぐらいでないと16GBに収まらない。量子化済みなので通常版だとさらに使う。高性能モデルはまず使えない
- 動画生成AIは低性能版が動けばラッキー、というレベル
とVRAMが収まらない事態が結構あります。
だからといって、それを超えるVRAMをもったGPUとなると、たぶん業務用になり高いので、クラウドサービスを利用する、場合によってはあきらめる、など色々考慮したほうがいいです。
逆に、VRAMを大して必要ないAI（生成系でないAIや古めのAIなど）も多いですし、何をどこまでやりたいかを明確にするのが先決だと思います。