問題 No.476
Adamという最適化手法が、Adagradの弱点である「学習率の過度な低下」を克服できた理由はどれか。
【正解の解説】
勾配の移動平均を用いるため
Adamは、勾配の移動平均（勢い）と、勾配の二乗の移動平均を組み合わせることで、学習率を適応的に調整し、効率的に最適解へ向かいます。
スポンサーリンク
【その他の選択肢の解説】
学習をランダムにするため
学習をランダムにすることはドロップアウトなどの過学習抑制手法で行われますが、Adamの最適化の本質ではありません。
バッチサイズを変えるため
バッチサイズを変えることは学習効率に影響しますが、Adamの手法の核となる仕組みではありません。
重みをゼロにするため
重みをゼロにするのはスパース性を強めるための手法ですが、Adamはパラメータを適切に更新することを目的としています。