回答編集履歴

2

書面上の修正

2021/04/17 09:29

投稿

退会済みユーザー
test CHANGED
@@ -30,4 +30,8 @@
30
30
 
31
31
 
32
32
 
33
- ですのでさらに調べたところ、最新のTensorflow2.xに対応しているものは、[tfa.optimizers.MultiOptimizer](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer)だと分かりました。具体的な使い方は、[Usage](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer#usage)のあたりに、Adamの学習率をレイヤーごとに変えている例があります。
33
+ ですのでさらに調べたところ、**最新のTensorflow2.xに対応**しているものは、[tfa.optimizers.MultiOptimizer](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer)だと分かりました。具体的な使い方は、[Usage](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer#usage)のあたりに、Adamの学習率をレイヤーごとに変えている例があります。
34
+
35
+
36
+
37
+ toast-uzさんのコメントにありますが、Torchの方がこういうかゆいところに手が届くのは早そうな気もします。

1

TFv2.x対応

2021/04/17 09:29

投稿

退会済みユーザー
test CHANGED
@@ -16,4 +16,18 @@
16
16
 
17
17
 
18
18
 
19
+
20
+
19
21
  私が自力で実装するなら、賢いやり方ではないかもしれませんが、都度対象となるレイヤー以外を`.trainable = False`にして学習でしょうか。こんなやり方は時間がかかってしょうがないですね!
22
+
23
+
24
+
25
+ 追補
26
+
27
+ ---
28
+
29
+ 上記のpipyのものだと、kerasと**統合前のTensorflow用**の仕様ようで、最新のKerasと統合されたTensorflow2.x系だとダメかもしれません。
30
+
31
+
32
+
33
+ ですのでさらに調べたところ、最新のTensorflow2.xに対応しているものは、[tfa.optimizers.MultiOptimizer](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer)だと分かりました。具体的な使い方は、[Usage](https://www.tensorflow.org/addons/api_docs/python/tfa/optimizers/MultiOptimizer#usage)のあたりに、Adamの学習率をレイヤーごとに変えている例があります。