確率的勾配降下法は勾配の傾きに沿って一定の学習率でパラメータを更新するが、谷の周辺でジグザグに振動してしまい、最適解(局所的極小値)に到達するまでに時間がかかる欠点がある。これに対し、物理的な「慣性(運動量)」の概念を導入し、過去の勾配の方向を一定割合で引き継ぐことで、同じ方向への更新を加速させて振動を抑制する最適化手法はどれか。 トップへ戻る 次へ進む スポンサーリンク