問題番号: No.15 (しっかりモード)

自然言語処理において、「単語を固定のベクトルとして扱う（Word2Vecなど）」手法では、「お腹が『空く』」と「飛行機で『空く』を飛ぶ」のように、同じ表記で全く異なる意味を持つ多義語を正しく処理できない。この課題を解決するため、大規模なテキストから学習した双方向LSTMを用い、入力された文全体の文脈（コンテキスト）に応じて、同じ単語であっても動的にベクトル表現を変化させる仕組みを確立した初期のモデルはどれか。