pythonでの機械学習

Question

pythonで機械学習を行っているのですがコードで不明点があったので説明していただけたら嬉しいです。

import numpy as np

def sigmoid(x):
    return 1/(1+np.exp(-x))

def identity_function(x):
    return x

def init_network():
    network={}
    network["W1"] = np.array([[0.1,0.3,0.5],[0.1,0.4,0.6]])
    network["b1"] = np.array([[0.1, 0.2, 0.3]])
    network["W2"] = np.array([[0.1, 0.4],[0.2,0.5], [0.3,0.6]])
    network["b2"] = np.array([[0.1, 0.2]])
    network["W3"] = np.array([[0.1, 0.3], [0.2, 0.4]])
    network["b3"] = np.array([[0.1, 0.2]])

    return network

def forward(network,x):
    W1,W2,W3=network["W1"],network["W2"],network["W3"]
    b1,b2,b3=network["b1"],network["b2"],network["b3"]

    a1=np.dot(x,W1)+b1
    z1=sigmoid(a1)
    a2=np.dot(z1,W2)+b2
    z2=sigmoid(a2)
    a3=np.dot(z2,W3)+b3
    y=identity_function(a3)

    return y

network=init_network()
x=np.array([1.0,0.5])
y=forward(network,x)
print(y)

このコードにおいて

def identity_function(x):
    return x

は必要なのでしょうか？
そのまま返しているだけで必要ないようにも思えるのですが。

初歩的な質問だと思いますがよろしくお願いします。

Answer 1

そのまま返しているだけで必要ないようにも思えるのですが。

実際その通りなのですが、あえて恒等関数を利用するということを強調するために定義していると思います。

元はゼロから作るDeep Learning Pythonで学ぶディープラーニングの理論と実装のコードだと思います。

たしか書籍にはそのあたりの記載もありますし、今後疑問に感じることに対しても説明が書いてあると思います。
また、大変分かりやすいので、ぜひ購入することをお勧めします。

Comments

[katsun]

回答有り難うございます。
また、有益な助言あありがとうございます。この本を中心に学習を進めていきたいと思います。
また不明な点や疑問があったら質問させていただきます。

Answer 2

必要性はありません
見た感じ、ゼロから作るディープラーニングのコードだと思われますが、
sigmoid関数に通すといった流れを統一する為に、あえて関数を作っていると本には記されています

Answer 3

とりあえず、その教科書？を最後まで読めばいいのでは？
差し替えたり色々するのだろうから。