python 学習過程を時系列で可視化できるのか

Question

実現したいこと

現在kerasとsickit learnのサンプルデータを使いディープラーニングを勉強しているのですが、
学習過程を時系列で可視化することは可能なのでしょうか。
とても気になったので教えていただきたいです。

例えばですが、
入力層：5個のノード
中間層：3個のノード
出力層：1個のノード
入力データは[1, 1, 0, 1, 0]のような1と0の組み合わせ32通り
出力値がエネルギー値
となるモデルを構築した場合、ニューラルネットワークが学習をする過程を時系列で可視化することはできるのでしょうか。

試したこと

ニューラルネットワークの学習において重要な重みに着目して、いろいろなサイトを見てみました。
特に再帰型ニューラルネットワークのBPTT法などを使うことができれば実現できるのではないかと考えたのですが、
再帰型ニューラルネットワークで度々出てくる、時系列という考えがいまいち理解できていません。
これは訓練データに時間的要素が必要となるということでしょうか。
または、中間層における計算の時系列のことを指しているのでしょうか。
これらも教えていただきたいです。

参考にしたサイト

Answer 1

「keras 訓練途中 可視化」あたりで検索するといろいろ出てきますのでそちらを参照されるのがいいと思います。

再帰型ニューラルネットワークで度々出てくる、時系列という考えがいまいち理解できていません。これは訓練データに時間的要素が必要となるということでしょうか。

再帰型ニューラルネットワークは、画像のように単なる1かたまりのデータでなく、時間によって変化するデータ=時系列データをうまく扱えるようにするために考えられました。 なので、時系列データの話が出てくるのは当然です。
また、訓練中に時間がかかることとはまったく無関係ですので、訓練途中状態とも無関係です。

Comments

[k-night]

回答ありがとうございます。
再帰型ニューラルネットワークはそのような意図で作られたのですね。タメになりました。

> 「keras 訓練途中 可視化」あたりで検索するといろいろ出てきますのでそちらを参照されるのがいいと思います。

教えていただいた検索方法を試したいと思います。