回答編集履歴
2
修正
answer
CHANGED
|
@@ -20,8 +20,8 @@
|
|
|
20
20
|
|
|
21
21
|
## CNN ならどのような場合でも転移学習は有効なのか
|
|
22
22
|
|
|
23
|
-
転移学習
|
|
23
|
+
転移学習に用いる重みは、「学習するデータセットの分布」と「転移学習に使用する重みの学習に用いたデータセットの分布」と似ているほうが、より効果があります。
|
|
24
|
-
(
|
|
24
|
+
(例: 場所の分類なら、Place Recognition 用の学習済みモデルを用いる)
|
|
25
25
|
|
|
26
26
|
## 質問に関して
|
|
27
27
|
|
1
追記
answer
CHANGED
|
@@ -21,4 +21,15 @@
|
|
|
21
21
|
## CNN ならどのような場合でも転移学習は有効なのか
|
|
22
22
|
|
|
23
23
|
転移学習が有効な場合は前提として、学習するデータセットの分布が転移学習に使用する重みの学習に用いたデータセットの分布と似ている必要があります。
|
|
24
|
-
(ImageNet の学習モデルを用いるなら、ImageNet のデータの分布、ImageNet とデータの分布が異なる傾向にあるものは、あまり転移学習の利益を得られないでしょう。)
|
|
24
|
+
(ImageNet の学習モデルを用いるなら、ImageNet のデータの分布、ImageNet とデータの分布が異なる傾向にあるものは、あまり転移学習の利益を得られないでしょう。)
|
|
25
|
+
|
|
26
|
+
## 質問に関して
|
|
27
|
+
|
|
28
|
+
```
|
|
29
|
+
上から下に変わるときに、全結合層（出力層の手前）の特徴量の重みを
|
|
30
|
+
出力層に再度重みを振り分け直しているようなイメージなのですが合っていますでしょうか？
|
|
31
|
+
また、学習済みの重みを利用しているため、少ない画像でも早く収束するという認識で合っていますか？
|
|
32
|
+
```
|
|
33
|
+
|
|
34
|
+
転移学習の場合、汎用的に使える畳み込み層の部分の重みはフリーズ (学習しない) で、分類部分の全結合層の重みだけ学習し直します。
|
|
35
|
+
転移学習により、全結合層の部分は学習するけど、学習が大変な畳み込み層の部分の学習を省略しているということです。
|