パーセプトロン重量更新ルールの直感
パーセプトロン の重み更新ルールを理解するのに問題があります：
w（t + 1）= w(t) + y（t）x（t）。
線形分離可能なデータセットがあると仮定します。
- wは重みのセット[w0、w1、w2、...]です。ここで、w0はバイアスです。
- xは、入力パラメーター[x0、x1、x2、...]のセットです。ここで、x0はバイアスに対応するために1に固定されています。
反復時t、ここでt= 0、1、2、。 ..、
- w（t）は、反復時の重みのセットtです。
- x（t）は、誤って分類されたトレーニングの例です。
- y（t）はx（t）（のターゲット出力です-1または1）のいずれか。
この更新ルールが境界を正しい方向に移動するのはなぜですか？
パーセプトロンの出力は、インスタンスとウェイトの間の内積のハード制限です。更新後にこれがどのように変化するかを見てみましょう。以来
w（t + 1 w(t) + y（t）x（t））==、
その後
x（t）⋅w（t + 1 x(t)⋅w(t) + x(t)⋅（y（t）x(t)) = x(t)⋅w(t) + y(t) [x（t）⋅x（t））]）==。
ご了承ください：
- アルゴリズムの仕様により、更新はx（t）が誤って分類された場合にのみ適用されます。
- 内積の定義により、x（t）⋅x(t)≥。
これにより、境界がx（t）に対してどのように移動しますか？
- x（t）が正しく分類された場合、アルゴリズムは更新ルールを適用しないため、何も変更されません。
- x（t）が誤って負に分類された場合、y（t 1）==。したがって、新しい内積はx（t）・x（t）（正の値）だけ増加します。したがって、境界はx（t）に関する限り、正しい方向に移動しました。
- 逆に、x（t）が誤って正として分類された場合、y（t -1）==。したがって、新しい内積はx（t）・x（t）（正）減少しました。したがって、境界はx（t）に関する限り、正しい方向に移動しました。