問題 No.1394
画像認識AI（CNN）がなぜその予測を出力したのかを人間が理解するための「説明可能AI（XAI）」の手法がある。予測の根拠となった画像内の重要な領域を、最後の畳み込み層から得られる特徴マップと勾配情報を用いて数理的に計算し、ヒートマップとして可視化する手法の名称はどれか。
【正解の解説】
Grad-CAM
Grad-CAMとは、CNNの最後の層からの情報を使って、画像内のどこにAIが注目したかをヒートマップ（色分け）として可視化する手法です。直感的に理解しやすく非常に普及しています。
スポンサーリンク
【その他の選択肢の解説】
LIME
LIMEとは、複雑なモデルの挙動を、予測したいデータの周りだけを切り取って「単純なモデル」で近似することで、なぜその結果になったかを説明しようとする手法です。
SHAP
SHAPとは、ゲーム理論の考え方を使って、各入力データが予測結果に対してどれだけ貢献（影響）したかを数値として算出する公平な評価手法です。
t-SNE
t-SNEとは、高次元の複雑なデータを、人間が目で見て理解できるように2次元や3次元に圧縮して配置する可視化手法のことです。