問題 No.669
超深層ニューラルネットワークにおいて、勾配消失を防ぐため、ある層への入力を数層先の出力へとダイレクトに足し合わせる構造を導入し、ネットワークに学習すべき対象を残差に変換させる接続機構はどれか。
【正解の解説】
スキップコネクション
ある層への入力を数層先に迂回して足すことで、情報の劣化を防ぎ、深い層でも効率的に学習できるようにする接続機構です。
スポンサーリンク
【その他の選択肢の解説】
アテンション機構
入力系列の中で、どの部分に注視すべきかをモデルが判断し学習する仕組みです。
全結合接続
隣り合う層のニューロン同士をすべて接続し、情報を伝達する基本的なネットワーク構造です。
リカレント接続
ニューロンの出力が再び同じ層の入力に戻るようなループ構造を持ち、時系列データを扱うための接続形態です。