質問編集履歴
3
説明追加
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -1,4 +1,4 @@
|
|
|
1
|
-
tensorflowで以下のようなニューラルネット(Domain adversarial neuralnetwork)を組んで学習させていたのですが，feature extractorと書いてある部分のLSTM層のところにdropout（tf.nn.dropout）を挟んだところ，学習が進まなくなってしまいました。(labelの二値分類が0.5の精度からほとんど動かない)
|
|
1
|
+
tensorflowで以下のようなニューラルネット(Domain adversarial neuralnetwork)を組んで学習させていたのですが，feature extractorと書いてある部分のLSTM層のところにdropout（tf.nn.dropout）を挟んだところ，学習が進まなくなってしまいました。(labelの二値分類が0.5の精度からほとんど動かない。dropout挟む前は普通に学習できていた)
|
|
2
2
|
|
|
3
3
|
|
|
4
4
|
|
2
コード修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -52,11 +52,9 @@
|
|
|
52
52
|
|
|
53
53
|
lstm_out_3,states_op = tf.nn.dynamic_rnn(lstm_3,lstm_out_2_drop,dtype=tf.float32,time_major=False)
|
|
54
54
|
|
|
55
|
-
lstm_out_3_drop = tf.nn.dropout(lstm_out_3, 0.5)##ここ
|
|
56
|
-
|
|
57
55
|
|
|
58
56
|
|
|
59
|
-
lstm_out_last = lstm_out_3
|
|
57
|
+
lstm_out_last = lstm_out_3[:,-1,:]
|
|
60
58
|
|
|
61
59
|
|
|
62
60
|
|
1
コード間違い修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -23,8 +23,6 @@
|
|
|
23
23
|
D_ind = tf.placeholder(tf.int32, [None], name='D_ind') # Domain index
|
|
24
24
|
|
|
25
25
|
l = tf.placeholder(tf.float32, [], name='l') # Gradient reversal scaler
|
|
26
|
-
|
|
27
|
-
train_aria = tf.placeholder(tf.string, [], name='train_aria') #alltrain or only domainclassifier train
|
|
28
26
|
|
|
29
27
|
|
|
30
28
|
|