スポンサーリンク

問題番号: No.1286 (しっかりモード)

自然言語処理の基盤となっているTransformerモデルは、時間的なループ構造を一切持たず、文章内のすべての単語間の依存関係を完全に並列で計算する。このとき、単語の位置や出現順序の情報をモデルに理解させるために、入力される単語ベクトルに対して相対的または絶対的な順序情報を付与する仕組みを何と呼ぶか。

スポンサーリンク