「TypeError: '<' not supported between instances of 'InputLayer' and 'Sequential'」解決方法

Question

以下のURLを参照し、kerasモデルのプルーニングを行おうとしました。
https://www.tensorflow.org/model_optimization/guide/pruning/pruning_with_keras

プルーニングを行うために、以下のコードを用いました。

import tempfile
import os
import numpy as np
import pandas as pd
from datetime import datetime
import matplotlib.pyplot as plt 
import random

import tensorflow as tf
from tensorflow import keras
# import urllib.request
from keras.datasets import mnist
import gzip
import pickle as cPickle
import sys

# proxy = urllib.request.ProxyHandler({'http': 'http://proxy.olympus.co.jp:8080'})
# opener = urllib.request.build_opener(proxy)
# mnist.urllib.request.install_opener(opener)

# Load MNIST dataset
f = gzip.open('mnist.pkl.gz', 'rb')
if sys.version_info < (3,):
    data = cPickle.load(f)
else:
    data = cPickle.load(f, encoding='bytes')
f.close()

(train_images, train_labels), (test_images, test_labels) = data


# Normalize the input image so that each pixel value is between 0 and 1.
train_images = train_images / 255.0
test_images = test_images / 255.0

# Define the model architecture.
model = keras.Sequential([
  keras.layers.InputLayer(input_shape=(28, 28)),
  keras.layers.Reshape(target_shape=(28, 28, 1)),
  keras.layers.Conv2D(filters=12, kernel_size=(3, 3), activation='relu'),
  keras.layers.MaxPooling2D(pool_size=(2, 2)),
  keras.layers.Flatten(),
  keras.layers.Dense(10)
])

# Train the digit classification model
model.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

model.fit(
  train_images,
  train_labels,
  epochs=4,
  validation_split=0.1,
)

_, baseline_model_accuracy = model.evaluate(
    test_images, test_labels, verbose=0)

print('Baseline test accuracy:', baseline_model_accuracy)

_, keras_file = tempfile.mkstemp('.h5')
tf.keras.models.save_model(model, keras_file, include_optimizer=False)
print('Saved baseline model to:', keras_file)

import tensorflow_model_optimization as tfmot

prune_low_magnitude = tfmot.sparsity.keras.prune_low_magnitude

# Compute end step to finish pruning after 2 epochs.
batch_size = 128
epochs = 2
validation_split = 0.1 # 10% of training set will be used for validation set. 

num_images = train_images.shape[0] * (1 - validation_split)
end_step = np.ceil(num_images / batch_size).astype(np.int32) * epochs

# Define model for pruning.
pruning_params = {
      'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay(initial_sparsity=0.50,
                                                               final_sparsity=0.80,
                                                               begin_step=0,
                                                               end_step=end_step)
}

model_for_pruning = prune_low_magnitude(model, **pruning_params)

# `prune_low_magnitude` requires a recompile.
model_for_pruning.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

model_for_pruning.summary()

#
logdir = tempfile.mkdtemp()

callbacks = [
  tfmot.sparsity.keras.UpdatePruningStep(),
  tfmot.sparsity.keras.PruningSummaries(log_dir=logdir),
]

# last row
model_for_pruning.fit(train_images, train_labels, batch_size=batch_size, epochs=epochs, validation_split=validation_split, callbacks=callbacks)

「# last row」に到達し、pruningされたモデルの再学習を行おうとした際に、エラー「TypeError: '<' not supported between instances of 'InputLayer' and 'Sequential'」が発生しました。

どなたか、解決方法を共有してくださると幸いです。
私の実行環境は以下になります。

OS：Windows10

packages： python 3.6.6 numpy 1.21.0 tensorflow 2.1.0 tensorflow-base 2.1.0 tensorflow-estimator 2.1.0 tensorboard 2.4.0 tensorboard-plugin-wit 1.6.0 keras 2.3.1

Comments

[Rwight]

もしかすると　予想ですが、ソースコードの打ち間違いがあると自分は予想します。
もう一度丁寧に打ち直すかもし見本のコードがあれば比較する事をお勧め致します。
自分はここの場合はまだ勉強してない為助けられなくて申し訳ありません。
自分以外の人でこの解決の方法が分かる方がいれば宜しくお願い致します。
失礼いたしました。

[2yu]

承知しました。
リンク先のコードをコピペした形ですが、ミスがないかもう一度確認します。

[Rwight]

了解しました。
コピペっていう感じだと見本のコードがあるらしいので比較するサイトを紹介します。
https://rakko.tools/tools/7/
というサイトです。
是非使ってみてはいかかでしょうか？

[2yu]

活用させていただきます。
ありがとうございます。

[Rwight]

いえいえ
逆に何も役に立てなくて申し訳ありません.....
頑張ってください！。

Answer 1

こちらは参照されましたでしょうか？
https://algorithm.joho.info/programming/python/typeerror-not-supported-between-instances-of/