問題 No.554
Transformerのモデルにおいて、Encoderの役割として最も適切なものはどれか。
【正解の解説】
入力系列のコンテキスト(意味)を圧縮してベクトル化する
Encoderの役割は、入力された文章などのデータの特徴を汲み取り、それを機械が扱いやすい形式(ベクトル)に凝縮・圧縮して表現することです。
スポンサーリンク
【その他の選択肢の解説】
ベクトルから出力系列を生成する
デコーダの役割は、Encoderから渡された意味情報(ベクトル)をもとに、次の単語を予測したり、変換結果を生成したりすることです。
重みを初期化する
重みを初期化するのは、モデルを学習させる前の準備段階で行われる作業です。特定の層の役割というよりは学習プロセス全体の設定です。
画像の輪郭を抽出する
画像の輪郭抽出は、主に畳み込みニューラルネットワーク(CNN)の初期の層で行われる、画像処理に特化した役割です。