Grad-camの出力層はソフトマックス関数を通した後のものなのか

Question

前提

keras modelにGrad-camを実装したい

実現したいこと

https://keras.io/examples/vision/grad_cam/
上記サイトに従いkeras modelにGrad-camを実装したいと思っています。

発生している問題・エラーメッセージ

Grad-camは上記式に従いますが、ここでSはクラス確率であるので私はSはソフトマックス関数を通した後の出力だと想定していました。しかし、KerasのGrad-camのサンプルコードでは、以下のコードによりGrad-camでheatmapを作成する前にソフトマックス層を取り除いていました。

model.layers[-1].activation = None

このようなことからGrad-camの想定するクラス確率Sはソフトマックス関数を通した後の出力を想定しているのか、通す前の出力を想定しているのか疑問に思いました。ご教示お願い致します。

Answer 1

Grad-camの出力層はソフトマックス関数を通した後のものなのか

論文を読むと，Grad-camの出力画像はReLU()を通して書かれていることがわかります．ので違うと思います．質問者の示した式でもSoftmax()の偏微分しか使われないので，ここからも違うことがわかります．

Grad-camでheatmapを作成する前にソフトマックス層を取り除いていました。

activation = Noneにすることはactivation = 'linear'にすることと同義です．
Grad-camで計算に使われる傾きは，クラスcに関連するものだけを抽出する中で，Softmax()は全クラスの中からクラスcの生起確率を表しているだけなので本質的でないレイヤであることがわかります．

Grad-camの想定するクラス確率Sはソフトマックス関数を通した後の出力を想定しているのか、通す前の出力を想定しているのか

見たいクラスcへの出力の傾きだけが知りたいGrad-camにとってどっちでも良い．が解答です．指数関数にスケーリングされているか否かの違いぐらいしかありません．論文ではSoftmax()の傾きを利用したので強め(指数関数的)に注視領域を表現しますが，Kerasの実装では線形の傾きを利用したので注視領域はフラットです．Keras実装そのままのGrad-camの出力画像を指数関数に通すことと，Keras実装のうちactivation = Noneを省略する結果は同じになると思います．

Comments

[snakelegs]

ご教授ありがとうございます。論文も載せていただきありがとうございます。
ソフトマックス層はクラスcの勾配計算においてどちらでも良いのですね、勉強になりました。