GPUとCUDAとPytorchのバージョンの互換性がわからない

実現したいこと

stable-audio-open 1.0を使う際に、GPUを使って実行したい。

発生している問題・分からないこと

stable-audio-openのコードを実行すると、下記のようにGPUが使えていないことがわかりました。
これをGPUを使えるようにしたいです。

エラーメッセージ

error
1PS C:\Users\kisk6\試験用> & C:/Users/kisk6/stable-audio/Scripts/python.exe c:/Users/kisk6/試験用/1.py
2C:\Users\kisk6\stable-audio\Lib\site-packages\x_transformers\x_transformers.py:435: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
3  @autocast(enabled = False)
4C:\Users\kisk6\stable-audio\Lib\site-packages\x_transformers\x_transformers.py:461: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
5  @autocast(enabled = False)
6No module named 'flash_attn'
7flash_attn not installed, disabling Flash Attention
8C:\Users\kisk6\stable-audio\Lib\site-packages\stable_audio_tools\models\transformer.py:126: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
9  @autocast(enabled = False)
10C:\Users\kisk6\stable-audio\Lib\site-packages\stable_audio_tools\models\transformer.py:151: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
11  @autocast(enabled = False)
12C:\Users\kisk6\stable-audio\Lib\site-packages\vector_quantize_pytorch\vector_quantize_pytorch.py:436: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
13  @autocast(enabled = False)
14C:\Users\kisk6\stable-audio\Lib\site-packages\vector_quantize_pytorch\vector_quantize_pytorch.py:619: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
15  @autocast(enabled = False)
16C:\Users\kisk6\stable-audio\Lib\site-packages\torch\nn\utils\weight_norm.py:134: FutureWarning: `torch.nn.utils.weight_norm` is deprecated in favor of `torch.nn.utils.parametrizations.weight_norm`.
17  WeightNorm.apply(module, name, dim)
18412692056
19C:\Users\kisk6\stable-audio\Lib\site-packages\stable_audio_tools\models\conditioners.py:314: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
20  with torch.cuda.amp.autocast(dtype=torch.float16) and torch.set_grad_enabled(self.enable_grad):
21C:\Users\kisk6\stable-audio\Lib\site-packages\torch\amp\autocast_mode.py:265: UserWarning: User provided device_type of 'cuda', but CUDA is not available. Disabling
22  warnings.warn(
23C:\Users\kisk6\stable-audio\Lib\site-packages\stable_audio_tools\inference\sampling.py:177: FutureWarning: `torch.cuda.amp.autocast(args...)` is deprecated. Please use `torch.amp.autocast('cuda', args...)` instead.
24  with torch.cuda.amp.autocast():
25  0%|                                                                                                                                | 0/100 [00:00<?, ?it/s]C:\Users\kisk6\stable-audio\Lib\site-packages\torchsde\_brownian\brownian_interval.py:608: UserWarning: Should have tb<=t1 but got tb=500.00006103515625 and t1=500.000061.
26  warnings.warn(f"Should have {tb_name}<=t1 but got {tb_name}={tb} and t1={self._end}.")      
27 98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 98/100 [1:06:42<01:21, 40.73s/it]C:\Users\kisk6\stable-audio\Lib\site-packages\torchsde\_brownian\brownian_interval.py:599: UserWarning: Should have ta>=t0 but got ta=0.29999998211860657 and t0=0.3.
28  warnings.warn(f"Should have ta>=t0 but got ta={ta} and t0={self._start}.")
29100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 100/100 [1:08:03<00:00, 40.84s/it]

該当のソースコード

特になし

試したこと・調べたこと

teratailやGoogle等で検索した
ソースコードを自分なりに変更した
知人に聞いた
その他

上記の詳細・結果

下記のコードと実行結果より、CUDAが使えていないため、GPUが使えていないことがわかりました。（このとき、CUDA12.4をダウンロードしていました。）

python
1>>> import torch
2>>> print(torch.cuda.is_available())
3False

使っているGPUは、NVIDIA GeForce RTX 4060 Ti のバージョン32.0.15.6070です。
NVIDIAのホームページで調べると、CUDA12.6が対応しているそうなので、CUDA12.6をインストールしました。
そしてPytorchをインストールしようとすると、CUDA11.8, 12.1, 12.4しかありません。
どうすればよいでしょうか。