問題 No.386
ニューラルネットワークに対し、人間には元の画像と全く区別がつかないわずかなノイズ（摂動）を加えるだけで、誤ったクラスに高精度で分類させることが可能になる現象がある。この現象に関連する記述として最も適切なものはどれか。
【正解の解説】
ニューラルネットワークが入力の微小な変化に対して非常に過敏に反応するという特性を利用した攻撃手法であるため
敵対的事例と呼ばれるこの現象は、ニューラルネットワークが人間には認識できないわずかな数値の変化に対し、モデルが極端に反応して判断を誤るという性質を突いたものです。
スポンサーリンク
【その他の選択肢の解説】
モデルの重みを更新して攻撃への耐性を高める「敵対的トレーニング」により、完全に防ぐことができるため
敵対的トレーニングは耐性を高める対策ですが、それを加えたとしても、別の微小なノイズに対しては依然として脆弱である可能性があり、根本的な解決とは言えません。
画像内のピクセルの平均値を変化させることで、モデルの活性化関数を飽和させるため
ノイズを加える目的はピクセルの平均値を変化させることではなく、モデルが判断を下すための特徴量の境界付近を狙い撃ちすることにあります。
モデルの学習データを汚染し、特定のクラスを認識できなくさせるためのデータポイズニング攻撃であるため
データポイズニングは、学習データそのものに悪意あるデータを混ぜる手法です。一方、この問題は学習済みのモデルに対する推論時の攻撃を指しています。