初期化子の指定なしでtf.get_variable()
が呼び出されたときに使用される変数初期化のデフォルトのメソッドは何ですか?ドキュメントには「なし」とだけ記載されています。
ドキュメントから :
初期化子が
None
(デフォルト)の場合、変数スコープで渡されたデフォルトの初期化子が使用されます。それもNone
の場合、_glorot_uniform_initializer
_が使用されます。
_glorot_uniform_initializer
_ 関数は、一様分布の値を初期化します。
この関数は ドキュメント化 です。
Gloaviユニフォーム初期化子。Xavierユニフォーム初期化子とも呼ばれます。
[-limit、limit]内の均一分布からサンプルを引き出します。
ここで、limit
はsqrt(6 / (fan_in + fan_out))
です
ここで、_fan_in
_は、重みテンソルの入力単位の数です
and _fan_out
_は、重みテンソルの出力単位の数です。リファレンス: http://jmlr.org/proceedings/papers/v9/glorot10a/glorot10a.pdf