問題 No.737
複雑な機械学習モデルの予測根拠を解釈したい。モデル全体を解明するのではなく、予測したい特定のデータ点の周辺で局所的に単純な線形モデルを近似させることで、どの特徴量が予測に効いているのかを提示する手法はどれか。
【正解の解説】
LIME
LIMEは、複雑なモデルの特定のデータ点周辺で、単純な線形モデルを局所的に当てはめることで、「なぜその判断をしたのか」を人間が理解しやすく説明する手法です。
スポンサーリンク
【その他の選択肢の解説】
SHAP
SHAPは、ゲーム理論を用いて各特徴量が予測にどれだけ貢献したかを公平に配分する手法で、局所的な説明だけでなく全体的な傾向を把握するのにも適しています。
Grad-CAM
Grad-CAMは、主に画像認識モデルにおいて、どの領域を注視して判断したかをヒートマップで可視化する手法です。
Partial Dependence Plot
Partial Dependence Plotは、ある特定の特徴量が予測結果に与える影響の平均的な変化をグラフで表し、その特徴量とターゲットの関係を可視化する手法です。