問題 No.1409
深層学習モデルやアンサンブル学習などの複雑なモデルは、高精度である一方で予測の根拠が不透明なブラックボックスになりやすい。この問題に対処するため、協力ゲーム理論における限界貢献度の概念を応用し、ある特定の予測結果に対して「各特徴量がそれぞれどれだけの数値を押し上げたか、または押し下げたか」という貢献度を厳密に計算し、公平に分配して可視化するXAI（説明可能AI）の手法はどれか。
【正解の解説】
SHAP
SHAPは、ゲーム理論に基づき、各特徴量が予測にどれだけ貢献したかを厳密に計算する手法です。公平で理論的な裏付けがあるのが特徴です。
スポンサーリンク
【その他の選択肢の解説】
LIME
LIMEは、予測結果の周辺で少しだけデータを変化させ、モデルがどう反応するかを観察して局所的に説明を試みる手法です。
Grad-CAM
Grad-CAMは、主に画像認識で使われ、モデルが「画像のどこを見てその判断をしたか」をヒートマップとして可視化する手法です。
PCA
PCA（主成分分析）は、データの特徴を保ったまま次元を減らすための手法で、説明可能なAIの手法ではありません。