Q&A
事象としては学習データにNaN値が混在しているものと思います。Lightningはあまりよくわかっていませんが、prepare_data、setup、train_dataloader、val_dataloaderのあたりに不具合がある可能性が高く、そのあたりまでコードを提示お願いします。（もしかしたら、これらを記述していないから、かも？）
以下を記載見本として確認しました。
https://qiita.com/MuAuan/items/3f797c6ab87ddc63df18
前提・実現したいこと
ここに質問の内容を詳しく書いてください。
DeepLearningの学習を開始した初学者です。
PyTorch＿Lightningを用いて回帰の問題を解こうとしています。
■■な機能を実装中に以下のエラーメッセージが発生しました。
発生している問題・エラーメッセージ
Global seed set to 0 GPU available: True, used: False TPU available: False, using: 0 TPU cores /usr/local/lib/python3.7/dist-packages/pytorch_lightning/utilities/distributed.py:69: UserWarning: GPU available but not used. Set the gpus flag in your trainer `Trainer(gpus=1)` or script `--gpus=1`. warnings.warn(*args, **kwargs) | Name | Type | Params ------------------------------------- 0 | bn | BatchNorm1d | 26 1 | fc1 | Linear | 140 2 | fc2 | Linear | 11 ------------------------------------- 177 Trainable params 0 Non-trainable params 177 Total params 0.001 Total estimated model params size (MB) Validation sanity check: 0% 0/2 [00:00<?, ?it/s] Global seed set to 0 Epoch 49: 100% 46/46 [00:00<00:00, 219.53it/s, loss=nan, v_num=0] {'train_loss': tensor(nan), 'train_loss_epoch': tensor(nan), 'train_loss_step': tensor(nan), 'val_loss': tensor(nan)}
該当のソースコード
df = pd.read_csv("housing_train.csv") t = df["y"] x = df.drop("y", axis=1) dataset = torch.utils.data.TensorDataset(x, t) n_train = int(len(dataset)*0.7) n_val = len(dataset) - n_train pl.seed_everything(0) train, val = torch.utils.data.random_split(dataset, [n_train, n_val]) batch_size = 10 train_loader = torch.utils.data.DataLoader(train, batch_size, shuffle=True, drop_last=True) val_loader = torch.utils.data.DataLoader(val, batch_size) class Net(pl.LightningModule): def __init__(self): super().__init__() self.bn = nn.BatchNorm1d(13) self.fc1 = nn.Linear(13, 10) self.fc2 = nn.Linear(10, 1) def forward(self, x): h = self.bn(x) h = self.fc1(h) h = F.relu(h) h = self.fc2(h) return h def training_step(self, batch, batch_idx): x, t = batch y = self(x) loss = F.mse_loss(y, t) self.log('train_loss', loss, on_step=True, on_epoch=True) return loss def validation_step(self, batch, batch_idx): x, t = batch y = self(x) loss = F.mse_loss(y, t) self.log('val_loss', loss, on_step=False, on_epoch=True) return loss def configure_optimizers(self): optimizer = torch.optim.SGD(self.parameters(), lr=0.01) return optimizer
試したこと
クラス定義した上で以下のようにインスタンス化して学習してみました。
net = Net()
logger = CSVLogger(save_dir='logs', name='my_exp')
trainer = pl.Trainer(max_epochs=50, deterministic=True, logger=logger)
trainer.fit(net, train_loader, val_loader)
trainer.callback_metricsで結果を確認してみてもNaNになってしまいます。
どのような原因が考えられますでしょうか？
お手数おかけしますが、ご助言頂けますと幸いです。
補足情報（FW/ツールのバージョンなど）
ここにより詳細な情報を記載してください。
記述追加ありがとうございます。
train_loader, val_loaderはどこで定義していますか？
housing_train.csvの中身は何でしょうか？kaggleのReal Estateでしょうか？前処理はされていますか？
あと根本的な質問ですが、メッセージのどこがエラーだと認識されて解決を要望されていますか？（もしかして4行目のwarningのことでしょうか？）
エラーだと認識している部分は
'train_loss': tensor(nan),
'train_loss_epoch': tensor(nan),
'train_loss_step': tensor(nan),
'val_loss': tensor(nan)}
と数値が出ずにnanと表示されている点になります。
宜しくお願い致します。
housing_train.csvの中身は何でしょうか？kaggleのReal Estateでしょうか？前処理はされていますか？
に回答お願いします。
追記した部分が反映されていなかったようで失礼致しました。
housing_train.csvはKaggleのファイルを初学者向けに前処理したものです。
ですので、欠損値などは必要でない状態となっております。
頂いたものですので、元々のデータの入手先は分からず申し訳ございません。
すべて数値になっている、ということですね？
お返事ありがとうございます。全て数値になっております。
x = df.drop("y", axis=1)
と
dataset = torch.utils.data.TensorDataset(x, t)
との間のコードが抜けていませんか？
TensorDatasetはテンソルをパラメータに要求するため、このままだとエラーになると思います。
また、「試したこと クラス定義した上で以下のようにインスタンス化して学習してみました。」の部分はエラー発生するコードそのものですので、試したことに記述するのではなく、コード本体に記述お願いします。
（「trainer.callback_metricsで結果を確認してみても」だけが「試したこと」に該当します）
動作するコードを省略せずに提示いただかないと、原因追求ができません。
さらに、できればデータの中身も、最初の10行程度示していただけますでしょうか？
なお、上記の抜けを想定して埋めて、サンプルデータを入れて動かしてみた結果、特にエラー無く実行できました。なので、質問者様が提示していない情報に、原因があるものと思います。
ご回答頂きありがとうございます。
今回のデータに対して自分が記載した全てのコードのスクリーンショットを添付いたします。
アドバイスいただけますと幸いです。度々お手数おかけして申し訳ございません。
https://gyazo.com/b5fc7672412d32a59c3eb91759aa26dc
https://gyazo.com/784102755fc7267a72b0c3af725603b2
https://gyazo.com/ed84fcb86d9f83d441473aa18ea1985e
https://gyazo.com/2ce8fcd61e695dc73999d10f34f91595
ありがとうございます。指摘した箇所のコードが提示漏れであったことが確認できました。さらに、データが全て数値の場合は不具合が出ないこと、数値以外が含まれていればエラーが出るため含まれているのは数値のみであることが確認できました。しかし、データに欠損値NaNが含まれる場合は、報告いただいた不具合が出るようです。
データに欠損値が無いという質問者様の申告が、本当に正しいのか確認したいです。
最初の df = pd.read_csv("housing_train.csv") の直後（[4]の場所）で
df[df.isnull().any(axis=1)])
を実行して、列ラベルだけで中身が無い表示となることを、見ていただけますでしょうか？
ご回答ありがとうございます。
ご指示いただきましたコードだと何故かエラーになってしまったので、
df.isnull().sum()で確認してみました。
https://gyazo.com/4cf660c40f384521688551a00076c727
ありがとうございます。私のお願いしたコードは右括弧が余計でした。しかし、確認いただいた結果、NaNは無いということがわかりました。ダミーデータではエラーが出ないため、これ以上は実際のデータが無いとわかりません。
あなたの回答
tips
プレビュー
