なぜ推論中に学習が書かれているのか？

Question

現在、以下のサイトを見て勉強しています。
http://www.buildinsider.net/small/booktensorflow/0203

このサイトの書き方であると、推論（inference.py）中に学習（train.py）が書かれる構成になっていると思うのですが、どうして推論と学習という別の役割をもつものを1つのファイルにまとめているのでしょうか？
(最初は、inference.pyとtrain.pyを別々に書いていたのですが、コードがかぶっているところが多く1つのファイルに含まれるんだと気づいたので）

乏しいAIの知識で申し訳ないのですが、
学習はモデル内で行われるのではないのでしょうか？
（私の解釈ではそう思っていました）
それとも、
推論はつまりはOUTPUTで、最終的にOUTPUTするものの中で学習させるのが一般的なのでしょうか？

Answer 1

学習はモデル内で行われるのではないのでしょうか？

このページの説明を読むならそれは違うということなのだと思います。ページには「モデルそのものは推論（inference）の機能しか持ちません」とかいてありますので、まずはその通りに解釈すればいいと思います。

このサイトの説明をみると「画像の認識をさせるための方式」は以下のような流れであることが伺えると思います。

1. 「何かの画像の集合」と「それが犬なり猫なり」のなんであるかを人間がラベルとして定める
2. 推論に用いる特定のパラメーターを機械的に決める（人間？またはプログラム自体が？）
3. 誤差から最適なパラメーターに近づけるためのハイパーパラメーターを人間が与える

（誤差からどの程度最適化パラメータを変更するかの程度）

1. 一回の推論ではパラメータとあるアルゴリズム（画像を認識するための何かのアルゴリズム）で推論させ結果を「入力画像が特定のラベルである」確からしさを表す数値として求める
2. 推論結果とラベルの誤差を求める
3. 誤差とハイパーパラメータなどに基づき期待するラベルに近づくようにパラメータの最適化をするための計算する（それが学習）

4.～6.を繰り返し計算すると(supervisorパラメータや入力画像セットが適切なら)入力画像が望むラベルに近づくような形でパラメーターが収束してゆくことが期待できるとのことです。それが「機械が画像を特定の物であると判別できる」ということになるのでしょう。

何かのプログラムあるいは機能の実装を把握するには「まずどんな仕組み・方式なのか」を理解した後に「その仕組みをどのように実装するか」を考えていくものです。ご質問を見ると「どんな仕組み、あるいはどんな仕様か」を把握する前にプログラムの中身をみて何かを捉えようとしているように見えます。

Answer 2

inference.pyとtrain.pyを分けていたのは、単に説明のためでしょう。

書籍転載：TensorFlowはじめました ― 実践！最新Googleマシンラーニング（5）
では推論グラフ（ネットワーク）の説明がされています。

ここでは、推論グラフとは何かについての説明がされておりinference.pyにて実際に推論動作させています。
しかし上記の最後に書かれているように、重みなどのパラメータが調整されていないため、意味のある結果は出ません。

そこで次の
書籍転載：TensorFlowはじめました ― 実践！最新Googleマシンラーニング（6）
にて、学習の仕組みの説明がされ、train.pyで実際に動作させています。

ちなみに次の回では、未知のデータに対しての評価（evaluate）について説明がされています。

Comments

[退会済みユーザー]

なるほど！推論中に学習の処理を書くのは一般的なのですね！むしろ分けて書くことはできないのですね！ありがとうございます。

[can110]

一般的というか、推論グラフに適切パラメータを与えてあげれば※、学習（＝パラメータの調整）は不要です。
※以前の学習で得られたパラメータをファイルに保存しておき読み込むなど