問題 No.377
深層学習において、学習時のデータに対してモデルが過剰に適合し、未知のデータに対する予測精度が落ちる「過学習」を防ぐための手法がある。ドロップアウトにおいて、学習時と推論時(テスト時)でニューロンの接続状態を切り替える理由として、最も適切なものはどれか。
【正解の解説】
推論時は学習時と異なり、全てのニューロンを有効にして重みをスケーリングすることで期待出力を近似するため
ドロップアウトは学習中にランダムにニューロンを無効化します。推論時は全てのニューロンを有効にしますが、学習時の出力の期待値に合わせるため、重みを調整(スケーリング)します。
スポンサーリンク
【その他の選択肢の解説】
推論時は全てのニューロンを有効にしないと、入力データに対する計算時間が大幅に増加するため
計算時間の節約は副次的な効果であり、ドロップアウトの主な目的は「学習時に一部を隠すことで、特定のニューロンへの過度な依存を防ぎ、頑健なモデルを作ること」です。
学習時に無効化する割合を調整することで、推論時の精度を決定論的に向上させるため
推論時の精度向上のための決定論的な計算ではなく、あくまで学習時に学んだ情報のアンサンブル効果を近似することが目的です。
学習時のノイズを除去して推論速度を向上させ、リアルタイム性能を確保するため
推論速度の向上ではなく、学習時に「特定の組み合わせでしか正解できない」ような過学習を避けることが目的です。