問題 No.605
文章生成を行うモデルにおいて、ある単語が与えられたときに「次に出現する単語」を確率的に予測する手法が取られる。この手法が、文章生成において滑らかで一貫した文章を作成できる主な要因はどれか。
【正解の解説】
自己回帰モデルにより、前の単語列に基づいて次の単語の確率分布を学習しているため
自己回帰的に予測するとは、今までの言葉から次の言葉を予想し、それを繰り返すことです。次にくる可能性が最も高い単語を積み重ねることで、文脈に沿った自然な文章が出来上がります。
スポンサーリンク
【その他の選択肢の解説】
ランダムに単語を結合するため
単語をランダムに結合すると文章として意味をなさなくなるため、滑らかな文章にはなりません。
文法ルールを辞書形式で明示的に定義しているため
文法ルールを辞書形式で定義するのは、昔の自然言語処理の手法です。今のAIは膨大なデータから確率としてルールを自ら学びます。
文章全体の意味を一度に決定してから単語を割り当てるため
一度に決定してから割り当てるのではなく、先頭から順番に一語ずつ選んでいくことで、状況に応じた文章が生成されます。