web-dev-qa-db-ja.com

Tensorflowのデフォルトの変数初期化子は何ですか?

初期化子の指定なしでtf.get_variable()が呼び出されたときに使用される変数初期化のデフォルトのメソッドは何ですか?ドキュメントには「なし」とだけ記載されています。

14
luongminh97

ドキュメントから

初期化子がNone(デフォルト)の場合、変数スコープで渡されたデフォルトの初期化子が使用されます。それもNoneの場合、_glorot_uniform_initializer_が使用されます。

_glorot_uniform_initializer_ 関数は、一様分布の値を初期化します。

この関数は ドキュメント化 です。

Gloaviユニフォーム初期化子。Xavierユニフォーム初期化子とも呼ばれます。

[-limit、limit]内の均一分布からサンプルを引き出します。
ここで、limitsqrt(6 / (fan_in + fan_out))です
ここで、_fan_in_は、重みテンソルの入力単位の数です
and _fan_out_は、重みテンソルの出力単位の数です。

リファレンス: http://jmlr.org/proceedings/papers/v9/glorot10a/glorot10a.pdf

13
kennytm