質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

1036閲覧

numpy.random.normalの標準偏差の計算

teefpc

総合スコア111

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/03/22 10:55

Your first neural network」で、
numpy.random.normal(平均, 標準偏差, (入力数, 出力数))
というように、ニューラルネットワークの重みを初期化することもありますが、標準偏差の設定が、
入力数**-0.5
という計算になっているのはなぜですか? 入力数に反比例している意味、または-0.5乗という定数の意味を教えてください。

Python

1 2class NeuralNetwork(object): 3 def __init__(self, input_nodes, hidden_nodes, output_nodes, learning_rate): 4 # Set number of nodes in input, hidden and output layers. 5 self.input_nodes = input_nodes 6 self.hidden_nodes = hidden_nodes 7 self.output_nodes = output_nodes 8 9 # Initialize weights 10 self.weights_input_to_hidden = np.random.normal(0.0, self.input_nodes**-0.5, 11 (self.input_nodes, self.hidden_nodes)) 12 13 self.weights_hidden_to_output = np.random.normal(0.0, self.hidden_nodes**-0.5, 14 (self.hidden_nodes, self.output_nodes)) 15 self.lr = learning_rate 16 17 18 # 以下省略

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

n**-0.51/sqrt(n)と同義です。

あまり厳密な知識はありませんが、この係数をかけることで、重みベクトルの次元数が大きくなってもノルムを同程度に保つ働きがあるはずです(すべて1の基底ベクトルのノルムの逆数なので)。こうしておくと、ユニット数を変えても他のパラメータのスケールを変化させないで済む、というご利益があるのだと思います。

投稿2019/03/22 11:24

hayataka2049

総合スコア30933

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

teefpc

2019/03/22 12:26

> n**-0.5は1/sqrt(n) ありがとうございます。
teefpc

2019/03/22 14:41

少し難しそうですが、なんとなくイメージできました。ノルムについても勉強してみます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問