TensorFlow初心者のチュートリアルに関する

Question

はじめまして、先日からTensorflowを触りだした
初心者プログラマです

以下リンクのチュートリアルを進めている過程で疑問が発生したので
質問させてください

初心者のためのTensorFlow 2.0 入門

質問内容

以下が実際のコードですが
modelを定義している場所では(28 x 28)の行列を入力として
出力を(10)のベクトルを出力するよう定義しているが

mode.fit(), model.evaluate()の関数では(28 x 28)の行列を入力として
出力を(1)のベクトルとなっています

でも実際にはmodel()で推定を行うと(28 x 28)の行列を入力として
出力を(10)のベクトルとして出力してくれます

この違いはどこでどのような処理をしてくれているのでしょうか

import tensorflow as tf
import numpy as np

if __name__ == '__main__':
  mnist = tf.keras.datasets.mnist

  (x_train, y_train), (x_test, y_test) = mnist.load_data()
  x_train, x_test = x_train / 255.0, x_test / 255

  # このモデルでは最後の出力結果は(N x 10)行列
  model = tf.keras.models.Sequential([
    tf.keras.layers.Flatten(input_shape=(28, 28)),
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dropout(0.2),                 
    tf.keras.layers.Dense(10)            
  ])

  loss_fn = tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True)
  
  model.compile(optimizer='adam', loss=loss_fn, metrics=['accuracy'])
  model.fit(x_train, y_train, epochs=5)

　# 入力(N x 28 x 28) ⇛ 出力(N)
  model.evaluate(x_test, y_test, verbose=2)
  
  print(y_test[:5])

  probability_model = tf.keras.Sequential([
    model,
    tf.keras.layers.Softmax()
  ])

  # 入力(N x 28 x 28) ⇛ 出力(N x 10)
  ans = probability_model(x_test[:5]).numpy()

  print(ans)

実際の出力

# print(y_test[:5])　
[7 2 1 0 4]

# print(ans)
[[1.6118878e-07 2.4484972e-08 5.1145807e-06 2.2368744e-04 2.4622858e-11
  4.2596776e-07 5.8544987e-13 9.9976856e-01 3.4579617e-07 1.6388203e-06]
 [2.2706962e-08 6.7041372e-05 9.9992490e-01 7.6350261e-06 2.0046315e-12
  3.5378790e-07 1.5796034e-07 1.1476339e-11 5.6065048e-08 5.7253244e-11]
 [3.3690245e-07 9.9946076e-01 1.1417094e-04 4.4337116e-06 5.6784207e-05
  2.9750072e-06 2.7395367e-06 2.8639822e-04 7.1094953e-05 2.3676076e-07]
 [9.9996448e-01 3.6563709e-08 8.4685371e-06 7.8264009e-09 4.5565784e-07
  1.4461138e-08 3.2253117e-06 1.1364364e-05 8.1827267e-10 1.1975261e-05]
 [1.1635639e-06 3.2568303e-07 3.1758764e-06 6.8589991e-09 9.9955612e-01
  9.3095359e-08 3.5744374e-06 3.3490895e-05 1.2255333e-06 4.0069365e-04]]

Answer 1

質問意図として、「出力」をmode.fit(), model.evaluate()等の返り値ではなく、引数としての正解ラベルであるy_trainやy_testを意味していると理解して、回答します。（関数の「出力」という言い方は、関数の返り値の意味にも取れるので、違う言い方がよいでしょう。モデルの入力・出力とか、レイヤーの入力・出力という言い方なら通じます）

実際のmodelはDense(10)として10次元を出力しているのに、mode.fit(), model.evaluate()等の正解ラベルがカテゴリ値の1次元配列でよいのは、それらを結びつけて評価を計算する関数であるSparseCategoricalCrossentropyを使っているからです。

SparseCategoricalCrossentropyの定義はこちらを参照ください。

Comments

[DaiGuard]

回答いただきありがとうございます

今回、使用しているラベルの`y_train`, `y_test`は`[0-9]`で入力されているので
`model`の最後のレイヤがDense(10)でサイズが合うということでしょうか

たとえばラベルが`[0-19]`で表現されていたら
Dense(20)に変える必要があるのでしょうか

[toast-uz]

そうです。

[DaiGuard]

ありがとうございます。
勉強になりました