問題 No.411
ドロップアウトが「共適応(Co-adaptation)」を抑制する仕組みとして、適切なものはどれか。
【正解の解説】
特定のニューロンが他のニューロンに過度に依存して学習するのを防ぎ、分散して特徴を捉えさせる
正解です。ドロップアウトは学習中にランダムにニューロンを無効化することで、特定のニューロンだけに頼った学習を防ぎ、チーム全体で特徴を分担して学習するように促す役割があります。
スポンサーリンク
【その他の選択肢の解説】
ニューロンの数を物理的に減らし、モデルの記憶容量を節約する
誤りです。ドロップアウトは物理的なニューロンの削除ではなく、あくまで学習時の一時的な無効化であり、記憶容量の節約を直接の目的とはしていません。
勾配を一定の値に固定し、パラメータの爆発を防ぐ
誤りです。勾配を一定の値に保つのは「勾配クリッピング」などの手法の役割であり、ドロップアウトの目的とは異なります。
すべての重みを同時に0に更新することで、モデルを初期化する
誤りです。すべての重みを0にすると学習が全く進まなくなります。ドロップアウトはあくまで確率的に一部を無効化する手法です。