問題 No.1078
ディープラーニングの予測根拠を可視化する手法であるGrad-CAMに関する説明として、最も不適切なものを1つ選べ。
【正解の解説】
モデルの内部構造にアクセスすることなく入力画像を部分的に隠したときの出力の変化だけで判定するモデル非依存の手法である。
Grad-CAMはAIの内部構造を見て判断するため、モデル非依存ではなく「モデル依存」の手法です。モデルの中身を気にしない手法はLIMEなどが有名です。
スポンサーリンク
【その他の選択肢の解説】
特定のクラスの予測スコアに関する勾配情報を利用して注目すべき画像の領域をヒートマップとして出力する。
Grad-CAMは、AIが画像のどの部分に注目して予測したかを、ヒートマップ（熱画像のような濃淡）にして視覚的に表示する技術です。
畳み込み層の最終層における特徴マップの重要度をバックプロパゲーションで得られる勾配の平均値によって算出する。
画像の特徴を取り出す層で、どの場所の情報を重要視したかを、計算の逆伝播によって得られる勾配を使って数値化し、強調します。
画像認識モデルがなぜその物体であると判定したかの説明性を担保し誤認識の要因分析などに活用される。
なぜAIがその答えを出したのかという根拠を人間が理解できる形で示すことで、AIの信頼性向上や間違いの原因究明に使われます。