Q&A
tensorflowで学習させたモデルを正しく復元させたい
現在colaboratory・python・tensorflowを使用して、CNNをつくっています。しかし、学習させたモデルをtf.train.Saver().save()で保存した後、異なるファイルにおいて、tf.train.Saver().restore()で復元をした後に同じデータでテストしたのですが全く違う結果が出力されます。
おそらく、変数の入れ込みがうまくいっていないか、保存の仕方が間違っているかだと思うのですが、どこがおかしいのかわかりません。
保存時のエラーなどはありませんが、復元時以下のようなwarningが出ます(毎回、sess.close()は行っているはずなのですが、)。
また、違う方法で変数を保存する方法などありましたらお教えください。
発生している問題・エラーメッセージ
INFO:tensorflow:Restoring parameters from /・・・/y_12_testmodel /usr/local/lib/python3.6/dist-packages/tensorflow_core/python/client/session.py:1750: UserWarning: An interactive session is already active. This can cause out-of-memory errors in some cases. You must explicitly call `InteractiveSession.close()` to release resources held by the other session(s). warnings.warn('An interactive session is already active. This can '
該当のソースコード
python
1#モデルの形、損失関数、勾配法などの定義の後 2 3x = tf.placeholder(tf.float32, shape=[None, C_input_size]) 4y_ = tf.placeholder(tf.float32, shape=[None, output_size]) 5 6logits = inference(x) 7cross_entropy = loss(logits, y_) 8train_step = training(cross_entropy) 9 10sess = tf.InteractiveSession() 11sess.run(tf.initialize_all_variables()) 12saver = tf.train.Saver() 13 14epoch=1000 15test_delay=100 16batch_size=1000 17 18array_num=int(epoch/test_delay)+3 19train_accuracy=[0 for i in range(array_num)] 20accuracy=[0 for i in range(array_num)] 21train_accuracy[0] = 0 22 23#学習前のaccuracy(変数をすべてランダムで決定) 24accuracy[0] = test(x, y_, logits, test_im, test_dire) 25print("train_Accuracy[%f],Accuracy[%f]" % (train_accuracy[0],accuracy[0])) 26 27#トレーニング開始 28for i in range(epoch+1): 29 im_batch,dire_batch = next_batch(batch_size, train_im, train_dire) 30 sess.run(train_step,feed_dict={x: im_batch, y_: dire_batch}) 31 if i % test_delay == 0: 32 #学習に使用したデータでaccuracy算出 33 train_accuracy[int(i/test_delay)+1] = test(x,y_,logits,im_batch,dire_batch) 34 num = random.randint(0, len(test_im)-batch_size-1) 35 #test用データでaccuracy算出 36 accuracy[int(i/test_delay)+1] = test(x,y_,logits,test_im[num:num+batch_size],test_dire[num:num+batch_size]) 37 38 print("Train Step:[%d],train_Accuracy[%f],Accuracy[%f]" % (i, train_accuracy[int(i/test_delay)+1],accuracy[int(i/test_delay)+1])) 39 40#トレーニング終了 41train_accuracy[int(epoch/test_delay)+2] = test(x, y_, logits,im_batch , dire_batch) 42accuracy[int(epoch/test_delay)+2] = test(x, y_, logits, test_im, test_dire) 43print("train_Accuracy[%f],Accuracy[%f]" % (train_accuracy[int(epoch/test_delay)+2],accuracy[int(epoch/test_delay)+2])) 44 45ver="y_12_test" 46cwd="/.../"+ver 47saver.save(sess , cwd + "/"+ver+"model") 48 49#この後に他に用意されたデータでtestを行っています 50 51###########################異なるファイルにおいて########################## 52 53#モデルの形、損失関数、勾配法などの定義の後 54 55x = tf.placeholder(tf.float32, shape=[None, C_input_size]) 56y_ = tf.placeholder(tf.float32, shape=[None, output_size]) 57 58logits = inference(x) 59cross_entropy = loss(logits, y_) 60train_step = training(cross_entropy) 61 62saver = tf.train.Saver() 63sess= tf.InteractiveSession() 64sess.run(tf.global_variables_initializer()) 65 66ver="y_12_test" 67cwd="/.../"+ver 68 69saver.restore(sess,cwd + "/"+ver+"model") 70 71#この後に保存時に使用した同じデータでtestを行うと違う結果となります。
試したこと
tf.train.import_meta_graph()をするべきと書かれているのを見つけ、行いましたが変化はありませんでした。
補足情報(FW/ツールのバージョンなど)
Google Colaboratory
TensorFlow ver 1.15(colaboratoryのデフォルト)
python3
下記のような回答は推奨されていません。
このような回答には修正を依頼しましょう。
2020/01/27 15:23
2020/01/28 13:54