ORの必要性

Question

ORがどうしてコード中に必要なのでしょうか？

tf.reset_default_graph() 
x = tf.placeholder(tf.float32, name='x')
t = tf.placeholder(tf.float32, name='t')

W = tf.Variable(rng.uniform(low=-0.08, high=0.08, size=(2, 1)).astype('float32'), name='W')
b = tf.Variable(np.zeros(1).astype('float32'), name='b')

y = tf.nn.sigmoid(tf.matmul(x,W)+b)


cost = -tf.reduce_mean(t*tf.log(tf.clip_by_value(y, 1e-10, 1.0)) + (1 - t)*tf.log(tf.clip_by_value(1 - y, 1e-10, 1.0))) 

gW, gb = tf.gradients(cost, [W, b])
updates = [
    b.assign_add(-0.01*gb),
    W.assign_add(-0.01*gW)
]
train = tf.group(*updates)

train_X = np.array([[0, 1], [1, 0], [0, 0], [1, 1]])
train_y = np.array([[1], [1], [0], [1]])

with tf.Session() as sess:
    sess = tf.Session()
    sess.run(tf.global_variables_initializer())
    for i in range(10000):
        _cost, _ = sess.run([cost, train], feed_dict={x: train_X, t: train_y})
        if (i+1)%1000==0:
            print(_cost)

というコードが勉強で出て来ました。

train_X = np.array([[0, 1], [1, 0], [0, 0], [1, 1]])
train_y = np.array([[1], [1], [0], [1]])

の部分がORに当たる部分だそうです。しかし、
プレースホルダーと変数の定義→ロジスティック回帰→誤差関数の定義→更新則の設定→OR→学習 のコードの役割の流れで OR が必要なのでしょうか？
更新則の設定→学習の流れではダメなのでしょうか？

Comments

[can110]

提示されたコードが「何（を学習）」をするためのものかを説明（追記）することは可能ですか？

Answer 1

更新則の設定→学習の流れではダメなのでしょうか？

ダメではありませんし、その通りに実装されていると思います。

今回の質問のソースコードは**「ORゲートをロジスティック回帰で学習する」** 為のプログラムのように思います。

つまり

更新則の設定→OR→学習

なのではなく

更新則の設定→ORの学習データを生成→ORの学習データを学習

なのかと思います。

Comments

[退会済みユーザー]

ありがとうございます。ORゲートをロジスティック回帰で学習する、必要性は何なのでしょうか？ORゲートは入力の一方または両方がHighのとき、Highを出力し、入力がどちらもLowならLowを出力する（https://ja.wikipedia.org/wiki/OR%E3%82%B2%E3%83%BC%E3%83%88）論理和の話でなぜそれがロジスティック回帰と関係あるのかな、と。ORゲートでデータを分類して、そのデータを用いて学習させたいから、ということでしょうか？

[magichan]

> ORゲートをロジスティック回帰で学習する、必要性は何なのでしょうか？
こればかりは、私はこのコードを提示した物ではないので、なんとも言えません。
> そのデータを用いて学習させたいから、ということでしょうか？
たぶんそのような意図はないと思います。
単に、説明変数が２つと少なく目的変数が２値であるため、簡単なサンプル例として提示するのに適していると感じたからではないかと思います。

[退会済みユーザー]

なるほど！ありがとうございます。

Answer 2

train_X,train_Yをどこに書くべきか？
_cost, _ = sess.run([cost, train], feed_dict={x: train_X, t: train_y})
の前であればどこでも構いせません。