常連

### 実現したいこと
CUDA開発について基礎的な事を知りたい

### 発生している問題・分からないこと
いつも勉強させていただいております。
現在cudaを用いたアプリの製作を計画しております。

cudaが良く分かっておらず初歩的な質問で大変申し訳ないのですがご教授下さい。

cudaはGPUを用いて演算を行う技術だと認識しています。
ただ、GPUはモニターの描画にも使われていると思います。

そうするとcudaで重い処理を走らせたりするとモニターがチラついたり暗転したりするのでしょうか？
またCUDAの情報を調べる際　活発に情報交換が行われている場所等あったりするでしょうか？

漠然とした質問で恐縮なのですがよろしくお願い致します。






### 該当のソースコード

```
特になし
```

### 試したこと・調べたこと
- [ ] teratailやGoogle等で検索した
- [ ] ソースコードを自分なりに変更した
- [ ] 知人に聞いた
- [x] その他

##### 上記の詳細・結果
宜しくお願いします。

### 補足
特になし

cudaの処理負荷について教えてください

以下のプログラムは途中までのものですが、google colabだと動いたのですが、会社のGPUを積んだマシンだとエラーがでました。エラーが出た原因が知りたいです。
動かしたプログラム
#####
```ここに言語を入力
import gym
from creversi.gym_reversi.envs import ReversiVecEnv
from creversi import *

import os
import datetime
import math
import random
import numpy as np
from collections import namedtuple
from itertools import count
from tqdm import tqdm_notebook as tqdm
import matplotlib.pyplot as plt

import torch
import torch.nn as nn
import torch.optim as optim
import torch.nn.functional as F

BATCH_SIZE = 256

vecenv = ReversiVecEnv(BATCH_SIZE)

# if gpu is to be used
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

######################################################################
# Replay Memory

Transition = namedtuple('Transition',
                        ('state', 'action', 'next_state', 'next_actions', 'reward'))


class ReplayMemory(object):

    def __init__(self, capacity):
        self.capacity = capacity
        self.memory = []
        self.position = 0

    def push(self, *args):
        """Saves a transition."""
        if len(self.memory) < self.capacity:
            self.memory.append(None)
        self.memory[self.position] = Transition(*args)
        self.position = (self.position + 1) % self.capacity

    def sample(self, batch_size):
        return random.sample(self.memory, batch_size)

    def __len__(self):
        return len(self.memory)

######################################################################
# DQN

k = 192
fcl_units = 256
class DQN(nn.Module):

    def __init__(self):
        super(DQN, self).__init__()
        self.conv1 = nn.Conv2d(2, k, kernel_size=3, padding=1)
        self.bn1 = nn.BatchNorm2d(k)
        self.conv2 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn2 = nn.BatchNorm2d(k)
        self.conv3 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn3 = nn.BatchNorm2d(k)
        self.conv4 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn4 = nn.BatchNorm2d(k)
        self.conv5 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn5 = nn.BatchNorm2d(k)
        self.conv6 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn6 = nn.BatchNorm2d(k)
        self.conv7 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn7 = nn.BatchNorm2d(k)
        self.conv8 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn8 = nn.BatchNorm2d(k)
        self.conv9 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn9 = nn.BatchNorm2d(k)
        self.conv10 = nn.Conv2d(k, k, kernel_size=3, padding=1)
        self.bn10 = nn.BatchNorm2d(k)
        self.fcl1 = nn.Linear(k * 64, fcl_units)
        self.fcl2 = nn.Linear(fcl_units, 65)

    def forward(self, x):
        x = F.relu(self.bn1(self.conv1(x)))
        x = F.relu(self.bn2(self.conv2(x)))
        x = F.relu(self.bn3(self.conv3(x)))
        x = F.relu(self.bn4(self.conv4(x)))
        x = F.relu(self.bn5(self.conv5(x)))
        x = F.relu(self.bn6(self.conv6(x)))
        x = F.relu(self.bn7(self.conv7(x)))
        x = F.relu(self.bn8(self.conv8(x)))
        x = F.relu(self.bn9(self.conv9(x)))
        x = F.relu(self.bn10(self.conv10(x)))
        x = F.relu(self.fcl1(x.view(-1, k * 64)))
        x = self.fcl2(x)
        return x.tanh()

def get_states(envs):
    features_vec = np.zeros((BATCH_SIZE, 2, 8, 8), dtype=np.float32)
    for i, env in enumerate(envs):
        env.board.piece_planes(features_vec[i])
    return torch.from_numpy(features_vec).to(device)
```
この最後のreturn torch.from_numpy(features_vec).to(device)のところで、、google colabでは
エラーが出ないのですが、会社のGPUを積んだLinuxだと
RuntimeError: CUDA error: out of memory
CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.
For debugging consider passing CUDA_LAUNCH_BLOCKING=1.
というエラーがでます。ググったりして調べたのですが、原因が分かりませんでした。
会社のGPUの環境は、下記の通りです。
-bash-4.2$ lspci | grep -i nvidia
3b:00.0 VGA compatible controller: NVIDIA Corporation TU102 [GeForce RTX 2080 Ti] (rev a1)
3b:00.1 Audio device: NVIDIA Corporation TU102 High Definition Audio Controller (rev a1)
3b:00.2 USB controller: NVIDIA Corporation TU102 USB 3.1 Host Controller (rev a1)
3b:00.3 Serial bus controller [0c80]: NVIDIA Corporation TU102 USB Type-C UCSI Controller (rev a1)
af:00.0 VGA compatible controller: NVIDIA Corporation GP102 [GeForce GTX 1080 Ti] (rev a1)
af:00.1 Audio device: NVIDIA Corporation GP102 HDMI Audio Controller (rev a1)

ご教示いただけますと幸いです。
何卒、よろしくお願い申し上げます。

強化学習でRuntimeError: CUDA error: out of memoryが出る

### 前提・実現したいこと

docker内でapt updateすると以下のエラーが出てしまいます。。
原因はなんでしょうか？



### 該当のソースコード
nvidia/cuda:10.2-cudnn8-devel-ubuntu18.04イメージをrunしてコンテナを作成・起動。
```bash
docker run -it -d --gpus '"device=5,6,7"' -v ${PWD}:/OpenPose/ --name OpenPose-docker2 nvidia/cuda:10.2-cudnn8-devel-ubuntu18.04

```
作成したコンテナにログイン
```bash
docker exec -it OpenPose-docker2 bash 
```
コンテナ上でapt updateしてみると**以下のエラー**が出ます。。
```bash
root@a67b891426ec:~# apt update
Err:1 http://archive.ubuntu.com/ubuntu bionic InRelease                                                                                             
  Could not connect to archive.ubuntu.com:80 (91.189.88.142), connection timed out Could not connect to archive.ubuntu.com:80 (91.189.88.152), connection timed out
Err:2 http://security.ubuntu.com/ubuntu bionic-security InRelease                                                                                   
  Could not connect to security.ubuntu.com:80 (91.189.91.39), connection timed out Could not connect to security.ubuntu.com:80 (91.189.91.38), connection timed out
Err:3 http://archive.ubuntu.com/ubuntu bionic-updates InRelease                                                                                     
  Unable to connect to archive.ubuntu.com:http:
Err:4 http://archive.ubuntu.com/ubuntu bionic-backports InRelease
  Unable to connect to archive.ubuntu.com:http:
Err:5 https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64  InRelease
  Could not connect to developer.download.nvidia.com:443 (152.199.39.144), connection timed out
Err:6 https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64  InRelease
  Unable to connect to developer.download.nvidia.com:https:
Reading package lists... Done
Building dependency tree       
Reading state information... Done
All packages are up to date.
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic/InRelease  Could not connect to archive.ubuntu.com:80 (91.189.88.142), connection timed out Could not connect to archive.ubuntu.com:80 (91.189.88.152), connection timed out
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic-updates/InRelease  Unable to connect to archive.ubuntu.com:http:
W: Failed to fetch http://archive.ubuntu.com/ubuntu/dists/bionic-backports/InRelease  Unable to connect to archive.ubuntu.com:http:
W: Failed to fetch http://security.ubuntu.com/ubuntu/dists/bionic-security/InRelease  Could not connect to security.ubuntu.com:80 (91.189.91.39), connection timed out Could not connect to security.ubuntu.com:80 (91.189.91.38), connection timed out
W: Failed to fetch https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/InRelease  Could not connect to developer.download.nvidia.com:443 (152.199.39.144), connection timed out
W: Failed to fetch https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/InRelease  Unable to connect to developer.download.nvidia.com:https:
W: Some index files failed to download. They have been ignored, or old ones used instead.
```

【docker】コンテナ内でapt updateできない。。

### 実現したいこと
デスクトップをキャプチャした画像を共有ハンドルを用いてCUDAに登録したソースSurfaceとNV１２フォーマットから作ったY面とUV面のsurfaceにカーネルを用いてRGBAからNV12への変換とリサイズを同時に行いたい

### 発生している問題・分からないこと
CUDAカーネルでY面とUV面にデータがかきこまれない

### エラーメッセージ
```error
エラーメッセージは特になし

エラハンドリングで特にエラーをはいていない
```

### 該当のソースコード

```C++
            D3D12_RESOURCE_DESC desc12NV12 = {};
            desc12NV12.Dimension = D3D12_RESOURCE_DIMENSION_TEXTURE2D;
            desc12NV12.Alignment = 0;
            desc12NV12.Width = targetWidth;
            desc12NV12.Height = targetHeight;
            desc12NV12.DepthOrArraySize = 1;
            desc12NV12.MipLevels = 1;
            desc12NV12.Format = DXGI_FORMAT_NV12;
            desc12NV12.SampleDesc.Count = 1;
            desc12NV12.Layout = D3D12_TEXTURE_LAYOUT_UNKNOWN;
            desc12NV12.Flags = D3D12_RESOURCE_FLAG_ALLOW_SIMULTANEOUS_ACCESS;

            // ヒープ設定は同一 GPU 内共有のみ
            D3D12_HEAP_PROPERTIES heapNV12 = {};
            heapNV12.Type = D3D12_HEAP_TYPE_DEFAULT;
            heapNV12.CPUPageProperty = D3D12_CPU_PAGE_PROPERTY_UNKNOWN;
            heapNV12.MemoryPoolPreference = D3D12_MEMORY_POOL_UNKNOWN;

            D3D11_RESOURCE_FLAGS d3d11FlagsNV12 = {};
            d3d11FlagsNV12.MiscFlags = D3D11_RESOURCE_MISC_SHARED | D3D11_RESOURCE_MISC_SHARED_NTHANDLE;

            hr = compatDev->CreateSharedResource(
                &heapNV12,
                D3D12_HEAP_FLAG_SHARED,
                &desc12NV12,
                D3D12_RESOURCE_STATE_COMMON,
                nullptr,
                &d3d11FlagsNV12,
                D3D12_COMPATIBILITY_SHARED_FLAG_NONE,
                nullptr, nullptr,
                __uuidof(ID3D12Resource),
                reinterpret_cast<void**>(context.d3d12NV12Res.GetAddressOf())
            );
            if (FAILED(hr)) {
                DebugLog(L"Failed to Create SharedResource(NV12).");
                return;
            }

            HANDLE sharedHandleNV12 = nullptr;
            SECURITY_ATTRIBUTES saNV12{};
            saNV12.nLength = sizeof(saNV12);
            saNV12.bInheritHandle = FALSE;
            saNV12.lpSecurityDescriptor = nullptr;

            hr = d3d12Device->CreateSharedHandle(
                context.d3d12NV12Res.Get(),
                &saNV12,
                GENERIC_ALL,
                nullptr,
                &sharedHandleNV12
            );
            if (FAILED(hr)) {
                DebugLog(L"Failed to Create sharedHandle(NV12).");
                return;
            }

            D3D12_RESOURCE_DESC desc = context.d3d12NV12Res->GetDesc();

            // 2) 実際のアロケーションサイズを取得
            D3D12_RESOURCE_ALLOCATION_INFO allocInfo =
                d3d12Device->GetResourceAllocationInfo(
                    0,              // visibleMask（通常 0）
                    1,              // リソース個数
                    &desc           // リソース記述へのポインタ
                );
            UINT64 resourceSize = allocInfo.SizeInBytes;
            
            DebugLog(L"external buffer size : " + std::to_wstring(resourceSize));

            CUDA_EXTERNAL_MEMORY_HANDLE_DESC extDescNV12 = {};
            extDescNV12.type = CU_EXTERNAL_MEMORY_HANDLE_TYPE_D3D12_RESOURCE;
            extDescNV12.handle.win32.handle = sharedHandleNV12;
            extDescNV12.size = resourceSize;
            extDescNV12.flags = CUDA_EXTERNAL_MEMORY_DEDICATED;

            err = cuImportExternalMemory(&context.extMemNV12, &extDescNV12);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuImportExternalMemory(NV12) failed");
                return;
            }

            CUDA_EXTERNAL_MEMORY_MIPMAPPED_ARRAY_DESC descY = {};
            descY.offset    = 0;                          // Y は先頭
            descY.numLevels = 1;
            descY.arrayDesc.Width       = targetWidth;
            descY.arrayDesc.Height      = targetHeight;
            descY.arrayDesc.Depth       = 0;              
            descY.arrayDesc.Format      = CU_AD_FORMAT_UNSIGNED_INT8;
            descY.arrayDesc.NumChannels = 1;              // Y のみ
            descY.arrayDesc.Flags       = CUDA_ARRAY3D_SURFACE_LDST;

            CUmipmappedArray mipY;
            err = cuExternalMemoryGetMappedMipmappedArray(&mipY, context.extMemNV12, &descY);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuExternalMemoryGetMappedMipmappedArray(Y) failed");
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }

            CUarray arrY;
            err = cuMipmappedArrayGetLevel(&arrY, mipY, 0);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuMipmappedArrayGetLevel(Y) failed");
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }

            CUDA_RESOURCE_DESC resDescY = {};
            resDescY.resType               = CU_RESOURCE_TYPE_ARRAY;
            resDescY.res.array.hArray      = arrY;
            resDescY.flags                 = 0;

            err = cuSurfObjectCreate(&context.surfObjY, &resDescY);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuSurfObjectCreate(Y) failed");
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }

            // 2) UV プレーン用サーフェス

            CUDA_EXTERNAL_MEMORY_MIPMAPPED_ARRAY_DESC descUV = {};
            descUV.offset = 0;
            descUV.numLevels = 1;
            descUV.arrayDesc.Width = targetWidth / 2;
            descUV.arrayDesc.Height = targetHeight / 2;
            descUV.arrayDesc.Depth = 0;
            descUV.arrayDesc.Format = CU_AD_FORMAT_UNSIGNED_INT8;
            descUV.arrayDesc.NumChannels = 2;
            descUV.arrayDesc.Flags = CUDA_ARRAY3D_SURFACE_LDST;             // U,V インターリーブ

            CUmipmappedArray mipUV;
            err = cuExternalMemoryGetMappedMipmappedArray(&mipUV, context.extMemNV12, &descUV);
            if (err != CUDA_SUCCESS) {
                const char* name = nullptr;
                cuGetErrorName(err, &name);
                DebugLog(L"cuExternalMemoryGetMappedMipmappedArray(UV) failed: " + std::wstring(name, name + strlen(name)));
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }

            CUarray arrUV;
            err = cuMipmappedArrayGetLevel(&arrUV, mipUV, 0);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuMipmappedArrayGetLevel(UV) failed");
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }

            CUDA_RESOURCE_DESC resDescUV = resDescY;
            resDescUV.res.array.hArray    = arrUV;
;
            err = cuSurfObjectCreate(&context.surfObjUV, &resDescUV);
            if (err != CUDA_SUCCESS) {
                DebugLog(L"cuSurfObjectCreate(UV) failed");
                cuDestroyExternalMemory(context.extMem);
                CloseHandle(sharedHandle);
                context.sharedD3D12Tex.Reset();
                cuDestroyExternalMemory(context.extMemNV12);
                CloseHandle(sharedHandleNV12);
                context.d3d12NV12Res.Reset();
                return;
            }
```

### 試したこと・調べたこと
- [ ] teratailやGoogle等で検索した
- [ ] ソースコードを自分なりに変更した
- [ ] 知人に聞いた
- [x] その他

##### 上記の詳細・結果
生成AIでY面にクレースケールでグラデーションを書き、UとVはグレーを書き込むCUDAカーネルを作ってもらい試したが結果一緒だった

### 補足
特になし

CUDAで画像処理ができない

Rasberry Pi にCUDAをいれて機械学習を走らせたいのですが、内蔵のものではなく外付けGPUを使えればと思っています。
Rasberry Piで動く外付けGPUをご存知でしたら教えていただけると嬉しいです。

Raspberry Pi に外付けGPUは接続できるでしょうか？

Ubuntuのcuda11.0をcuda10.2にできません。正しい方法を教えて下さい。

削除した方法
```bash
sudo apt purge cuda*
sudo apt purge nvidia-cuda-*
sudo apt purge *nvidia*
sudo apt purge libcuda*
sudo apt purge *nsight*
sudo apt-get --purge remove nvidia-*
sudo apt-get --purge remove *nvidia*
sudo apt-get --purge remove *nsight*
sudo apt-get --purge remove cuda-*
sudo apt-get --purge remove cuda
sudo apt autoremove
# sudo rm -rf /var/cuda-repo-*** これらも削除か？
```

インストールした方法
[CUDA Toolkit 10.2 Downloadl
](https://developer.nvidia.com/cuda-10.2-download-archive?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=1604&target_type=deblocal)

インストール結果は、
```bash
$ cat  /usr/local/cuda/version.txt
CUDA Version 11.0.228
```

```bash
$ ls -ld /usr/local/cuda*
lrwxrwxrwx  1 root root    9  9月 12 18:30 /usr/local/cuda -> cuda-11.0
drwxr-xr-x 15 root root 4096  9月 12 18:28 /usr/local/cuda-11.0
```

```bash
$ ll /var/ | grep cuda
drwxr-xr-x 2 root root 20480 9月 12 15:14 cuda-repo-10-2-local-10.2.89-440.33.01/
drwxr-xr-x 2 root root 4096 9月 12 08:22 cuda-repo-ubuntu1604-10-2-local/
drwxr-xr-x 2 root root 20480 9月 11 23:44 cuda-repo-ubuntu1604-11-0-local/
```

dpkg はログなし
```bash
$ dpkg -l | grep nvidia-driver | grep -E ^ii
```

```bash
$ apt show cuda
Package: cuda
Version: 11.0.3-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 7,168 B
Depends: cuda-11-0 (>= 11.0.3)
Download-Size: 2,392 B
APT-Manual-Installed: yes
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

N: 追加レコードが 13 件あります。表示するには '-a' スイッチを付けてください。
```
-a オプションで全部表示
```bash
$ apt -a show cuda
Package: cuda
Version: 11.0.3-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 7,168 B
Depends: cuda-11-0 (>= 11.0.3)
Download-Size: 2,392 B
APT-Manual-Installed: yes
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 11.0.2-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 7,168 B
Depends: cuda-11-0 (>= 11.0.2)
Download-Size: 2,392 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 11.0.1-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 7,168 B
Depends: cuda-11-0 (>= 11.0.1)
Download-Size: 2,394 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 10.2.89-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-10-2 (>= 10.2.89)
Download-Size: 2,514 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 10.1.243-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-10-1 (>= 10.1.243)
Download-Size: 2,510 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 10.1.168-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-10-1 (>= 10.1.168)
Download-Size: 2,512 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 10.1.105-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-10-1 (>= 10.1.105)
Download-Size: 2,512 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 10.0.130-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-10-0 (>= 10.0.130)
Download-Size: 2,514 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 9.2.148-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-9-2 (>= 9.2.148)
Download-Size: 2,502 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 9.2.88-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-9-2 (>= 9.2.88)
Download-Size: 2,508 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 9.1.85-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-9-1 (>= 9.1.85)
Download-Size: 2,512 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 9.0.176-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-9-0 (>= 9.0.176)
Download-Size: 2,504 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 8.0.61-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-8-0 (>= 8.0.61)
Download-Size: 2,510 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

Package: cuda
Version: 8.0.44-1
Priority: optional
Section: multiverse/devel
Maintainer: cudatools <cudatools@nvidia.com>
Installed-Size: 25.6 kB
Depends: cuda-8-0 (>= 8.0.44)
Download-Size: 2,504 B
APT-Sources: http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64  Packages
Description: CUDA meta-package
 Meta-package containing all the available packages required for native CUDA
 development. Contains the toolkit, samples, driver and documentation.

```

宜しくお願いいたします。

cudaのダウングレード

### 実現したいこと
stable-audio-toolsというライブラリをインストールしたいです。

### 発生している問題・分からないこと
pip install stable-audio-toolsを仮想環境で実行すると、以下のようなエラーが出ました。

### エラーメッセージ
```error
Collecting flash-attn>=2.5.0 (from stable-audio-tools)
  Using cached flash_attn-2.6.3.tar.gz (2.6 MB)
  Preparing metadata (setup.py) ... error
  error: subprocess-exited-with-error

  × python setup.py egg_info did not run successfully.
  │ exit code: 1
  ╰─> [22 lines of output]
      fatal: not a git repository (or any of the parent directories): .git
      C:\Users\kisk6\AppData\Local\Temp\pip-install-fvk7whpe\flash-attn_1bcbf1aed59b436ea87b613be10615e1\setup.py:95: UserWarning: flash_attn was requested, but nvcc was not found.  Are you sure your environment has nvcc available?  If you're installing within a container from https://hub.docker.com/r/pytorch/pytorch, only images whose names contain 'devel' will provide nvcc.
        warnings.warn(
      Traceback (most recent call last):
        File "<string>", line 2, in <module>
        File "<pip-setuptools-caller>", line 34, in <module>
        File "C:\Users\kisk6\AppData\Local\Temp\pip-install-fvk7whpe\flash-attn_1bcbf1aed59b436ea87b613be10615e1\setup.py", line 179, in <module>
          CUDAExtension(
        File "C:\Users\kisk6\stable-audio\Lib\site-packages\torch\utils\cpp_extension.py", line 1076, in CUDAExtension
          library_dirs += library_paths(cuda=True)
                          ^^^^^^^^^^^^^^^^^^^^^^^^
        File "C:\Users\kisk6\stable-audio\Lib\site-packages\torch\utils\cpp_extension.py", line 1214, in library_paths
          paths.append(_join_cuda_home(lib_dir))
                       ^^^^^^^^^^^^^^^^^^^^^^^^
        File "C:\Users\kisk6\stable-audio\Lib\site-packages\torch\utils\cpp_extension.py", line 2416, in _join_cuda_home
          raise OSError('CUDA_HOME environment variable is not set. '
      OSError: CUDA_HOME environment variable is not set. Please set it to your CUDA install root.


      torch.__version__  = 2.4.0+cpu


      [end of output]

  note: This error originates from a subprocess, and is likely not a problem with pip.
error: metadata-generation-failed

× Encountered error while generating package metadata.
╰─> See above for output.

note: This is an issue with the package mentioned above, not pip.
hint: See above for details.
```

### 該当のソースコード

```
特になし
```

### 試したこと・調べたこと
- [x] teratailやGoogle等で検索した
- [ ] ソースコードを自分なりに変更した
- [ ] 知人に聞いた
- [ ] その他

##### 上記の詳細・結果
まず、CUDA_HOME環境変数が正しく指定されているかを確認するため、下記のコードを実行しました。バージョンも含めて正しく表示されたため、環境変数は正しく設定されています。
(stable-audio) C:\Users\kisk6>echo %CUDA_HOME%
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4

また、CUDA_HOME環境変数のバージョンが正しいかを確認するために、下記のコードを実行しました。同じバージョンが表示されているので、正しく設定されています。
(stable-audio) C:\Users\kisk6>nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Tue_Feb_27_16:28:36_Pacific_Standard_Time_2024
Cuda compilation tools, release 12.4, V12.4.99
Build cuda_12.4.r12.4/compiler.33961263_0


### 補足
特になし

pythonでライブラリインストール時のsubprocess-exited-with-errorというエラー

### 前提
anaconda上でPytorchの環境構築を行いたいです。
以前誤ってCUDA11.8でインストールしてしまったため11.7を入れなおすことに挑みましたが、GPUが認識されません。また、Pathは11.7に通っており、11.8は削除済みにかかわらず、11.8が認識されているようです。

### 環境
- Windows11
- anaconda
- Pytorch 1.13
- CUDA 11.7

### 実現したいこと

PytorchにGPUを認識させる

### 発生している問題・エラーメッセージ
#### nvidia-smi
##### 追記
こちらは対応の最新バージョンを示すもので、CUDAはv11.7がインストールされているようです。
```
Mon Nov 21 17:49:45 2022       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 522.06       Driver Version: 522.06       CUDA Version: 11.8     |
|-------------------------------+----------------------+----------------------+
| GPU  Name            TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ... WDDM  | 00000000:01:00.0 Off |                  N/A |
| N/A   38C    P0    13W /  N/A |      0MiB /  4096MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+
```

#### path

```
# システム
PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp;

C:\Windows\system32;C:\Windows;C:\Windows\System32\Wbem;C:\Windows\System32\WindowsPowerShell\v1.0;C:\Program Files (x86)\NVIDIA Corporation\PhysX\Common;C:\Program Files\NVIDIA Corporation\NVIDIA NvDLISR;C:\Program Files\NVIDIA Corporation\Nsight Compute 2022.2.1\;C:\Users\UN\AppData\Local\Microsoft\WindowsApps;;C:\Users\UN\AppData\Local\Programs\Microsoft VS Code\bin

# ユーザー
%USERPROFILE%\AppData\Local\Microsoft\WindowsApps;
C:\Users\UN\AppData\Local\Programs\Microsoft VS Code\bin;
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin;
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp;
```
#### CUDA
```
C:\Users\UN>nvcc -V
>>
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Jun__8_16:59:34_Pacific_Daylight_Time_2022
Cuda compilation tools, release 11.7, V11.7.99
Build cuda_11.7.r11.7/compiler.31442593_0
```
#### CUDNN
```
C:\Users\UN>where cudnn64_8.dll
>>:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\cudnn64_8.dll
```

### 試したこと

1. v11.8との共存に挑戦
[こちら](https://blog.kintarou.com/2021/06/25/post-1591/)を行った
→Pytorchに認識させること以外は成功した。
2. v11.8の削除に挑戦
上記のPathを全て手入力で11.7に変更(つまり、11.8の際に登録したPathを全て11.7で上書きした)
→CUDNN以降認識しない；何故？

### エラー原因の候補
- CUDA：多分違う。(が何故v11.8が認識されている？；やっぱり違うかもしれない)
- cuDNN：多分これ(そもそもDLした後何をどこにどうやって移すかが分かっていない可能性があるため；ここではzipを解凍して中の`cudnn-windows-x86_64-8.6.0.163_cuda11-archive`の中身の`bin`などを全て`C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7`の中に上書きで移した。)
- path ： 通っているし多分違う
- pytorch：そもそもこいつに合わせてやっているから違う



