問題 No.1183
畳み込みニューラルネットワーク（CNN）を用いた画像分類モデルにおいて、AIのブラックボックス問題を解消するための可視化技術の一つである。ネットワークの最終の畳み込み層の直後に「GAP（Global Average Pooling）」を配置し、各チャンネルの特徴マップに、出力クラスの全結合重みを掛け合わせて足し合わせることで、AIが画像の「どの領域（場所）」に注目してそのクラスだと判断したのかをヒートマップとして画像上に可視化する手法はどれか。
【正解の解説】
CAM
AIが最終的な判断を下す際に、画像のどの領域を強く見ていたかを色付けして可視化する手法です。
スポンサーリンク
【その他の選択肢の解説】
LIME
特定のデータに対する予測の根拠を、局所的なモデルで近似して説明する手法です。
SHAP
ゲーム理論を応用して、入力データが予測結果にどの程度貢献したかを算出する手法です。
t-SNE
高次元のデータを2次元や3次元に圧縮して、視覚的に分かりやすく配置する手法です。