Tensorflowで作ったモデルで活性化関数LeakyReLUを使いたい

Question

活性化関数leaky reluを使いたいです。
何故か調べて使ってみたのですが上手くいきませんでした。

def define_model():
    inputs = Input(shape=(32, 32, 3))
    x = Conv2D(64, (3, 3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(inputs)
    x = Conv2D(64, (3, 3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(x)
    x = Dropout(0.25)(x)
    x = MaxPooling2D()(x)

    x = Conv2D(128, (3,3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(x)
    x = Conv2D(128, (3,3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(x)
    x = Dropout(0.25)(x)
    x = MaxPooling2D()(x)

    x = Conv2D(256, (3,3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(x)
    x = Conv2D(256, (3,3), padding='SAME', activation='LeakyReLU(alpha=0.01)')(x)
    x = GlobalAveragePooling2D()(x)

    x = Dense(1024, activation='LeakyReLU(alpha=0.01)')(x)
    x = Dropout(0.25)(x)
    y = Dense(10, activation='softmax')(x)

    model = Model(inputs, y)

    # モデルのコンパイル。
    model.compile(optimizer=tf.keras.optimizers.Adam(),
                  loss='categorical_crossentropy',
                  metrics=['accuracy'])
    model.summary()
    return model

model = define_model()

---

エラー文

Unknown activation function: LeakyReLU(alpha=0.01)

参考記事

Answer 1

これかな？
KerasでLeakyReLUを使った

Comments

[kane_study]

ありがとうございます。

x = Conv2D(64, (3, 3), padding='SAME)(inputs)
x = LeakyReLU(alpha=0.01))(x)
x = Dropout(0.25)(x)
x = MaxPooling2D()(x)

というコードに変えたのですが失敗しました。

[fiveHundred]

「失敗しました」ではなく、どう上手くいかないのか、エラーが出ているのならエラーメッセージを書いてください。
あと、カッコの対応が（2か所）取れていないため、この内容では文法エラーになります。

[kane_study]

申し訳ございません。
カッコの方を修正した所、以下のエラー文が出ました。

x = Conv2D(64, (3, 3), padding='SAME)(inputs)
^
SyntaxError: invalid syntax

というエラーが出ました。

[kane_study]

x = Conv2D(64, (3, 3), padding='SAME')(inputs)
です。'の部分が足りないですが
こちらも修正済みです。

[jbpb0]

質問に書かれている元々のコードから「, activation='LeakyReLU(alpha=0.01)'」を全て削除して実行しても、「SyntaxError: invalid syntax」にはならず実行できます
その修正後は、
def define_model():
と
model = Model(inputs, y)
の間の部分のみ抜き出すと、このようになります
inputs = Input(shape=(32, 32, 3))
x = Conv2D(64, (3, 3), padding='SAME')(inputs)
x = Conv2D(64, (3, 3), padding='SAME')(x)
x = Dropout(0.25)(x)
x = MaxPooling2D()(x)
x = Conv2D(128, (3,3), padding='SAME')(x)
x = Conv2D(128, (3,3), padding='SAME')(x)
x = Dropout(0.25)(x)
x = MaxPooling2D()(x)
x = Conv2D(256, (3,3), padding='SAME')(x)
x = Conv2D(256, (3,3), padding='SAME')(x)
x = GlobalAveragePooling2D()(x)
x = Dense(1024)(x)
x = Dropout(0.25)(x)
y = Dense(10, activation='softmax')(x)
(上記はインデントが消えてますが、こちらでテストしているときはもちろんインデントは正しく入れてます)

> x = Conv2D(64, (3, 3), padding='SAME)(inputs)
> ^
> SyntaxError: invalid syntax

> x = Conv2D(64, (3, 3), padding='SAME')(inputs)
> です。'の部分が足りないですが
> こちらも修正済みです。

私の修正ではエラー出ないので、どこかに修正間違いがあるはず

[jbpb0]

上記に、さらに LeakyReLU() を追加しても、やはり「SyntaxError: invalid syntax」にはならず実行できました
その修正後は、
def define_model():
と
model = Model(inputs, y)
の間の部分のみ抜き出すと、このようになります
inputs = Input(shape=(32, 32, 3))
x = Conv2D(64, (3, 3), padding='SAME')(inputs)
x = LeakyReLU(alpha=0.01)(x)
x = Conv2D(64, (3, 3), padding='SAME')(x)
x = LeakyReLU(alpha=0.01)(x)
x = Dropout(0.25)(x)
x = MaxPooling2D()(x)
x = Conv2D(128, (3,3), padding='SAME')(x)
x = LeakyReLU(alpha=0.01)(x)
x = Conv2D(128, (3,3), padding='SAME')(x)
x = LeakyReLU(alpha=0.01)(x)
x = Dropout(0.25)(x)
x = MaxPooling2D()(x)
x = Conv2D(256, (3,3), padding='SAME')(x)
x = LeakyReLU(alpha=0.01)(x)
x = Conv2D(256, (3,3), padding='SAME')(x)
x = LeakyReLU(alpha=0.01)(x)
x = GlobalAveragePooling2D()(x)
x = Dense(1024)(x)
x = LeakyReLU(alpha=0.01)(x)
x = Dropout(0.25)(x)
y = Dense(10, activation='softmax')(x)

これを、元々のコードの該当部分に差し替えて、実行してみてください
(インデントは正しく入れてください)
それでエラーが出なければ、エラーが出るご自分の修正はどこが違うのか調べてみてください

[kane_study]

ありがとうございます。
どうにか出来ました。

[kane_study]

ミスが無くなった時に
エラーが「定義されてません」に変わりましたが、
モジュールが原因でした。

無事に動きました。
ありがとうございます。