問題 No.1391
ディープラーニングにおいて層を非常に深くすると、勾配消失問題により学習が困難になる。この問題を解決し、100層を超えるCNNの学習を可能にしたResNet(Residual Network)では、ある層の入力を、数層先の出力に直接足し合わせる数理的構造を採用した。この構造を何と呼ぶか。
【正解の解説】
スキップ結合(ショートカット接続)
スキップ結合(ショートカット接続)とは、層を跨いで情報を直接伝達する仕組みのことです。これにより、層が非常に深くなっても勾配が消えずにしっかりと層の奥まで伝わり、学習が可能になります。
スポンサーリンク
【その他の選択肢の解説】
アテンション機構
アテンション機構とは、重要な情報に注目するように重み付けをする仕組みのことで、翻訳や文章生成など多くの場所で使われています。
ゲート機構
ゲート機構とは、情報の流れを門(ゲート)のように開閉して、必要な情報だけを通したり、不要な情報を捨てたりする仕組みのことです。
全結合層
全結合層とは、ニューラルネットワークの中で隣接する層の全てのニューロン同士が接続されている、最も基本的な層の構造のことです。