問題 No.906
Transformerアーキテクチャの根幹をなす技術であり、入力された文章内のすべての単語同士の関連度を計算し、長距離の文脈をダイナミックに捉える仕組みを【 】という。
【正解の解説】
自己注意機構
自己注意機構とは、文章内の単語一つひとつが、他のどの単語と強い関連があるのかを計算し、文脈全体の意味を深く理解する仕組みのことです。
スポンサーリンク
【その他の選択肢の解説】
経験再生
経験再生とは、AIが過去に得た経験（データ）を保存しておき、後で繰り返し学習に利用することで、効率的かつ安定して学習を進める手法です。
畳み込み処理
畳み込み処理とは、画像データなどで隣接する画素のパターンを抽出するために、小さなフィルターを画像全体に動かしながら特徴を見つけ出す技術です。
忘却ゲート
忘却ゲートとは、リカレントニューラルネットワーク(RNN)の内部で、過去の記憶のうち「どれを忘れてどれを残すべきか」を制御する仕組みのことです。