問題 No.393
Transformerにおける「マルチヘッドアテンション」の利点として、最も適切なものはどれか。
【正解の解説】
複数の異なるアテンション空間で同時に情報を集約することで、単語間の多様な関係性を並列に学習できるため
正解です。マルチヘッドアテンションは、文章の複雑な意味を一度に把握するために、複数の『視点（ヘッド）』で単語間の関連性を同時に解析する仕組みです。たとえ話をするなら、複数の専門家がそれぞれ異なる角度から文章を読んで情報を集約するイメージです。
スポンサーリンク
【その他の選択肢の解説】
モデル全体のパラメータを増やすことで、推論速度を速くするため
誤りです。パラメータを増やすことはモデルの表現力を高める可能性はありますが、計算コストが増大し、推論速度が速くなるわけではありません。
各ヘッドがRNNのように時系列順に計算を行うため、直列処理能力が向上するため
誤りです。Transformerの特徴は、時系列順に計算するRNN（リカレントニューラルネットワーク）とは異なり、文章全体を一度に計算できる並列処理能力にあります。
アテンション機構自体を完全に排除し、行列演算のみで文脈を理解するため
誤りです。マルチヘッドアテンションは、Transformerの心臓部ともいえる非常に重要なアテンション機構の一部です。