問題 No.1067
CNNの発展形であり、前の層の出力を以降のすべての層の入力にチャンネル方向に結合していくことで特徴量の再利用を最大限に高めたネットワーク構造であるDenseNetに関する説明として、最も適切なものを1つ選べ。
【正解の解説】
前方の層から後方の層へすべての特徴マップを結合して伝播させるため、勾配消失問題が大幅に緩和される。
DenseNetは、前の層の特徴をすべて後ろの層に「つなげていく（結合）」ことで、情報を薄めずに伝え、勾配消失問題を解決する構造です。
スポンサーリンク
【その他の選択肢の解説】
残差ネットワークのスキップ結合と同じ数理的処理を全層で行う。
残差ネットワーク(ResNet)は足し合わせる方式ですが、DenseNetはチャンネル方向に結合（連結）していく点で仕組みが異なります。
層が深くなるにつれてチャンネル数が爆発的に増加するため、中間層で一切の次元圧縮を行えない。
DenseNetは確かにチャンネル数が増えやすいですが、そのために「遷移層」という仕組みで次元を圧縮しており、中間層でも次元圧縮を行っています。
自然言語処理のTransformerに初めて導入された自己アテンション機構をベースにしている。
DenseNetはCNNの構造に関するものであり、Transformerの自己アテンション機構とは直接関係ありません。