TensorFlowでgradCamを実装する方法(python)

Question

###前提・実現したいこと
TensorFlowのcifar10（畳み込みニューラルネットワーク）のソースを元に画像分類のモデルを改造を続けております。
元のソースは公式チュートリアルの、
こちらになります。

今回、CNNが学習の際、どこを見ているかを調べるGrad Camを実装したく、いろいろなソースコードを読んでおり、
こちらの記事で実装されている、
こちらのコードを参考に、

取り入れたいと考えております。

まだコードを置き換え中ですが、以下のように実装をしています。
https://github.com/MatsumotoHiroko/models/blob/grad_cam/tutorials/image/cifar10/cifar10_train.py
https://github.com/MatsumotoHiroko/models/blob/grad_cam/tutorials/image/cifar10/cifar10.py
https://github.com/MatsumotoHiroko/models/blob/grad_cam/tutorials/image/cifar10/grad_cam.py

###発生している問題・エラーメッセージ
ここでいくつか問題が発生しましたが、
こちらのソース内で、

smp.generateBatch(args.nBatch,f_odd)

とよんでおりますが、

def f_odd(x):

こちらのように定義されており引数を必要としておりますが、呼び出しの際に引数がありません。

また、こちらの、

h = self.leakyReLU(h)

に関しても、

def leakyReLU(self,x,alpha=0.1):

こちらのように定義されておりますが、呼び出しの際に引数がありません。

pythonの仕様に引数がない場合に何が引数として呼ばれるかなどのデフォルトがあるのでしょうか？
また、もし、gradCamの実装をわかりやすいコードで行なっているサイトがありましたらご教授いただければと思います。

###補足情報(言語/FW/ツール等のバージョンなど)
Python 3.5.2 :: Anaconda custom (64-bit)
tensorflow-gpu (1.2.1)

Answer 1

pythonでは関数の引数として関数を渡すことができます。
その関数内で、引数として渡された関数を呼び出すことができます。

def f_odd(x):
    return x%2 # 1 in case of odd

def generateBatch( args, func):
    for arg in args:
        print( arg, func(arg))

generateBatch( [1,2,3], f_odd)

ディープラーニング分野であれば、ノード値を計算する関数の引数として、ノードの値に加えて、活性化関数を引数とするケースなどが考えられます。
ノード値の計算は、活性化関数(シグモイドやrelu)に関係なく共通化しておくことで、呼び出し側で任意の活性化関数を指定することができます。

Comments

[maaaaatsu]

ご返答ありがとうございます！なるほど・・・　関数そのものを渡しているわけだったのですね。関数言語のような使い方でしょうか。解説ありがとうございます。
同じ活性化関数を各ノードで使いまわしている？イメージですかね。
深層学習のアルゴリズムにまだまだ疎いため、より深く勉強します。

[can110]

そうですね。
解答例だと、generateBatchの中身を修正しなくても、f_oddを別の関数に切り替えることで異なる動作をさせることができます。