問題番号: No.26 (しっかりモード)

ディープラーニングを用いた画像認識システムを医療や自動運転の現場に導入する際、「AIがなぜそのクラスだと判断したのか」という根拠が不明なブラックボックス問題が大きな課題となる。モデルの最終畳み込み層における勾配情報（重み）を利用して、判断の決め手となった画像上の領域を「ヒートマップ」として視覚的に可視化し、人間に説明可能にする技術はどれか。