問題 No.763
ブラックボックス化しやすい深層学習モデルの予測根拠を説明するため、特定の入力データの周辺で単純な線形モデルを近似させ、どの特徴量が予測に影響したかを局所的に提示する手法はどれか。
【正解の解説】
LIME
LIMEとは、複雑なモデルの判断について、特定のデータ周辺で単純なモデルを近似させることで、「なぜその判断になったか」の根拠を局所的に説明する手法です。
スポンサーリンク
【その他の選択肢の解説】
SHAP
SHAPとは、ゲーム理論に基づき、各特徴量が予測値にどれだけ貢献したかを公平に配分する手法です。
Grad-CAM
Grad-CAMとは、CNNにおいて、どの画像領域が分類結果に強く寄与したかをヒートマップで視覚化する手法です。
Attention
アテンションとは、モデルがデータのどの部分に注目すべきかを判断する仕組みのことです。