問題 No.1359
ドロップアウトは、学習の各ステップにおいてランダムに一部のニューロンを不活性化させることで過学習を抑制する手法である。この手法が過学習を抑制できる理由として、数理的にどのような効果が擬似的に得られていると考えられているか。最も適切なものを選べ。
【正解の解説】
膨大な数の異なるネットワーク構成を平均化するアンサンブル効果
ドロップアウトは、毎回異なるニューロンの組み合わせで学習することで、まるで数多くの異なるネットワークを合体させて平均をとったような、非常に安定した予測ができるようになると考えられています。
スポンサーリンク
【その他の選択肢の解説】
入力データの次元数を削減してモデルを単純化する効果
ドロップアウトは、ネットワークの構造そのものは維持したまま、一部を休ませる手法であり、次元削減そのものが目的ではありません。
学習率をエポックごとに自動で減少させる効果
学習率の調整は学習過程の制御であり、ドロップアウトの役割である構造の多様性確保とは異なります。
損失関数の形状を凸関数に変換して局所解を回避する効果
損失関数の形状を変える手法ではなく、あくまで学習の仕方に工夫を加えるものです。