問題 No.206
強化学習のアルゴリズムは、価値(Q値)をベースに計算する手法と、行動を決定する確率そのものを直接最適化する手法に大別できる。エージェントが特定の状態でどの行動をとるべきかという確率分布(方策)をニューラルネットワークで表現し、得られた総報酬が大きくなる方向へ方策のパラメータを微分の勾配を用いて直接更新していく手法を何というか。
【正解の解説】
方策勾配法
方策勾配法とは、行動の確率そのものを直接調整する手法です。より良い結果が得られる行動の確率が高まるように、パラメータを少しずつ更新します。
スポンサーリンク
【その他の選択肢の解説】
Q学習
Q学習とは、ある状態でその行動をとると将来どれだけ得をするかという「Q値」を基準に学習を進める強化学習の手法です。
深層Qネットワーク
DQNとは、Q学習に深層学習を取り入れた手法のことです。複雑なゲーム画面のようなデータからでも価値を予測できるようになります。
モンテカルロ木探索
モンテカルロ木探索とは、未来の行動をランダムにシミュレーションして、次に選ぶべき最善の手を予測する探索アルゴリズムのことです。