画像識別、ニューラルネットワーク

Question

現在、単純なニューラルネットワークを用いてある画像データをmnistのように識別するモデルを作成しています。

以前は、6割、7割の精度を出していたのですが、いろいろと試行錯誤しているうちに、精度がとても悪くなり、条件を変えても精度が変わらなくなりました。

プログラムフローやミスなどを探しているのですが、どこが悪いのかわかりません。

アドバイスをくれないでしょうか。
モデル(重み、バイアス)が初期化されていない気がするのですが、初期化するようなコードは組んでいます。。。

def accuracy(batch_size,batch_times,epochs,learn):
    

    # 784次元ベクトルに平坦化された任意の数の画像を入力する
    # これを浮動小数点数の2次元テンソルとして表現する
    x = tf.placeholder(tf.float32,[None,784])


    # Wとbの両方を全て０のテンソルとして初期化する
    W = tf.Variable(tf.zeros([784, 15]))
    b = tf.Variable(tf.zeros([15]))

    # xをWにtf.matmul（x、W）で内積。tf.nn.softmaxを適用。
    y = tf.nn.softmax(tf.matmul(x, W) + b)

    # 答えを入力するための新しいplacehplder
    y_ = tf.placeholder(tf.float32, [None, 15])
    
    # クロスエントロピー関数の実装
    # reduce_mean: 平均　　reduce_sum : 総和
    cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))

    # train_stepを呼び出したら学習率learnでcross_entropyを最小にするような勾配降下法を用いる
    train_step = tf.train.GradientDescentOptimizer(learn).minimize(cross_entropy)
    
    # --------------------------------データ初期化----------------------------------------------------
    sess = tf.InteractiveSession()

    tf.global_variables_initializer().run()

    # ----------------------------------------学習--------------------------------------------


    for u in range(0,epochs):# ←バッチサイズ100で100回繰り返す(バッチ回数=100).それを100回繰り返す(epoch=100)
        for i in range(batch_times):# ←もしここで1000回繰り返すなら、バッチ回数が1000ということ

            normal_array=[]
            for t in range(0,2400):
                normal_array.append(i)

            random_number = random.sample(normal_array,batch_size)

            batch_xs = np.asarray([train_ones[random_number[i],:] for i in range(0,len(random_number))])
            batch_ys = np.asarray([trainL[random_number[i],:] for i in range(0,len(random_number))])

            # feed_dictで先ほど作成したプレイスホルダーにbatch_xsなどのデータを入れる
            # プレイスホルダーの値を用いてtrain_stepを実行する
            # ↑この2つの操作を自動的にする実行環境のことをセッションという

            sess.run(train_step, feed_dict={x:batch_xs, y_:batch_ys})
            # train_stepは学習の手段であり、このセッションのおかげで学習することができる


    # ------------------------------------精度計算---------------------------------------------

    # NumPyのargmax関数は、多次元配列の中の最大値の要素を持つインデックスを返す関数です。
    # y,y_は(784,15)。なので、argmax(y,1)は784この中でもっとも大きな要素を持つインデック
    # スを15個出力している。それのなかでどのラベルと等しいかどうか→数字を予測
    correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))
    # correct_predictionは[true or false]

    # cast(変換したいもの,変換後の型)
    # 以下の場合だと、true,false→float型の少数に直す
    accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
    # 1が多ければ精度が1に近づく

    print(sess.run(accuracy, feed_dict={x:test_ones, y_ : testL}))
    

Comments

[coco_bauer]

試行錯誤をしてきた時の記録（プログラム、使用したデータ、条件、得られた精度等）が残っているのなら、精度が悪くなる前後を比較すると良いです。