問題 No.645
機械学習の予測モデルが特定の結果を出力した際、なぜその予測に至ったのかを人間が理解できるように説明したい。ゲーム理論の概念を応用し、各特徴量が予測値の押し上げや押し下げに対してどれだけ公平に貢献したかを厳密に計算して可視化する、説明可能AIの代表的な手法はどれか。
【正解の解説】
SHAP
SHAPは、ゲーム理論を応用し、どの特徴量が予測結果にどれだけ影響を与えたかを数値として算出し、公平かつ正確に貢献度を可視化する手法です。
スポンサーリンク
【その他の選択肢の解説】
LIME
LIMEは、AIの判断の根拠を、複雑なモデルの周囲に単純なモデルを構築して部分的に再現することで、なぜその結果になったかを直感的に解釈する手法です。
t-SNE
t-SNEは、高次元の複雑なデータを、視覚的に把握しやすい2次元や3次元のグラフにうまく配置し直すための可視化手法です。
CAM
CAMは、AIが画像のどこを見て判断を下したかを、最終層の情報を使ってヒートマップとして可視化し、根拠を説明するための手法です。