問題 No.390
大規模なデータセットで事前学習されたモデルを、特定のデータセットに対して少量のデータで再度学習を行う手法について。この学習において、学習の過程で「層の重みを更新する範囲」を調整する理由として適切なものはどれか。
【正解の解説】
出力に近い層のみを更新することで、事前学習で得られた汎用的な特徴抽出能力を維持しつつ、特定のタスクに適応させるため
事前学習モデルの下層（入力に近い層）は基本的な形や模様を抽出する汎用的な能力を持っています。ここを固定（フリーズ）して出力層に近い層だけを新しいタスク向けに調整することで、効率的に適応させることができます。
スポンサーリンク
【その他の選択肢の解説】
全ての層を一度に更新すると計算リソースが不足し、クラウド環境以外での利用が不可能になるため
計算リソースの問題ではなく、知識を保持しながら適応させることが主目的です。
入力層の重みを更新してしまうと、画像データのノイズまで過剰に学習してしまい分類が不安定になるため
入力層に近い層はノイズではなく、基本的な特徴抽出を行う重要な層であり、ここを更新しないのは汎用的な知識を維持するためです。
全ての層をランダムに初期化し直すことで、既存のモデルの影響を排除し、完全に新しいモデルを作成するため
ランダムに初期化してしまうと、せっかくの事前学習モデルの知識が失われてしまいます。