mnist手書き文字　実際解析した手書き文字を見たい。

前提・実現したいこと

tensorflow2でmnistデータからtensorboardで学習の可視化をしました。
初心者なりにサンプルコードなどを参考に可視化までしたのですが、実際どんな手書き文字を学習させたのか、tensorboard上に手書き文字の解析stepの可視化など可能でしょうか？

様々な記事やチュートリアルを試してエラーなしでようやく可視化までできたので、現在のコードはあまり崩さずにしたいと考えております。

現在のソースコード

python
1import tensorflow as tf
2import datetime
3mnist = tf.keras.datasets.mnist
4
5(x_train, y_train),(x_test, y_test) = mnist.load_data()
6x_train, x_test = x_train / 255.0, x_test / 255.0
7
8model = tf.keras.models.Sequential([
9  tf.keras.layers.Flatten(input_shape=(28, 28)),
10  tf.keras.layers.Dense(512, activation=tf.nn.relu),
11  tf.keras.layers.Dropout(0.2),
12  tf.keras.layers.Dense(10, activation=tf.nn.softmax)
13])
14model.compile(optimizer='adam',
15              loss='sparse_categorical_crossentropy',
16              metrics=['accuracy'])
17
18
19log_dir="logs/fit/" + datetime.datetime.now().strftime("%Y%m%d-%H%M")
20tensorboard_callback = tf.keras.callbacks.TensorBoard(log_dir=log_dir, histogram_freq=1)
21
22
23model.fit(x=x_train, 
24          y=y_train, 
25          epochs=5, 
26          validation_data=(x_test, y_test), 
27          callbacks=[tensorboard_callback]) 
28
29model.evaluate(x_test, y_test)
30
31log_dir="logs/fit/" + datetime.datetime.now().strftime("%Y%m%d-%H%M")
32tensorboard_callback = tf.keras.callbacks.TensorBoard(log_dir=log_dir, histogram_freq=1)
33
34model.fit(x=x_train, 
35          y=y_train, 
36          epochs=5, 
37          validation_data=(x_test, y_test), 
38          callbacks=[tensorboard_callback])