バッチ正規化でのExponentialMovingAverageの必要性がわからない

Question

前提・実現したいこと

TensorFlowでtf.nn.batch_normalizationを使用してバッチ正規化を実装したいです．
調べてみたところtf.train.ExponentialMovingAverageを使用しているものとそうでないものが見受けられました．
tf.train.ExponentialMovingAverageは何のために使用しているのでしょうか．
また，バッチ正規化を実装する上でどちらの方が良いのでしょうか．
よろしくお願いします．

• ExponentialMovingAverageなし

Deeper MNIST · Tensorflow 101 (sjchoi86)
Implementing Batch Normalization in Tensorflow - R2RT

• ExponentialMovingAverageあり

MNISTにバッチ正規化を適用 - Kludge Factory
python - How could I use batch normalization in TensorFlow - Stack Overflow

補足情報（FW/ツールのバージョンなど）

python 3.6.5
tensorflow 1.4.0

Answer 1

たくさんbatchがあるので、正規化パラメータの確定にはMovingAverageで異なるbatchの間で行います。要はこれまでの正規化パラメータと今のbatchで得た正規化パラメータを指定したweightで加重平均を取って更新していくというやり方。
これは「Moving Average」と呼びます。
結果は保存して、推論段階に利用されます。
推論段階にはbatchは必須でないので、sampleの正規化は必要だが、正規化パラメータは訓練段階得たのをそのまま利用するだけです。
「正規化パラメータ」
①　sampleの平均値、 sampleの分散共分散matrix
②　Affine係数二つー－－訓練・学習から取得

ExponentialMovingAverage　上記weightで加重平均を取るためのweightの取得方法の一つ❓