GANのlossについて

Question

pytorchでDCGANの学習を行い、DiscriminateorとGeneratorのロスをそれぞれ出しました。損失関数はBCELossです。
プロットすると画像のようになったのですが、これはしっかり学習できているのでしょうか？

ロスの推移の正解が分からないので、そちらも教えていただけると助かります。

よろしくお願い致します。

説明](d6a1681b080f55f710f5c413c8c0f10d.png)](31a5fb5373aeef51ae56d2491d937668.png)

Answer 1

GANは調整が難しいことで有名だったと思います。

しっかり学習できているのでしょうか？

GANは複雑ですので、結果が出るまでの試行回数(epoch? iteration? step?)が80でいいかどうかも考えないといけないと思います。

この先どう言う推移をするかまでは見てみないとわかりません。どこかで跳ね上がって乖離してしまうのか、両方が反発しあうように離れていくのか、平行線に近づいていくのか見極める必要がある気もします。

この範囲外の動きがどうなるか――を抜きにこの範囲内だけで考えると、学習はできていても、「しっかり」ではないと思います。

ロスの推移の正解が分からない

GANの正解はDもGも両方が拮抗するように、なるべく近い距離での平行線になるのが理想です。

Comments

[y_k_hj]

回答ありがとうございます。
参考にさせて頂きます！

[退会済みユーザー]

やってみないとわかりませんが、オプティマイザをSGDにすると「遅いは遅いですが、Adam系やRMSProp等よりぶれずに確実に収束していく傾向がある（と思っています）」ので、もしいろいろ試してダメだったらSGDを選んでみてください。