問題 No.779
悪意のある攻撃者がAIモデルの学習フェーズに介入し、特定の目印が含まれたデータが入力されたときだけ、ターゲットを誤分類するようにモデルの内部に秘密の経路を仕込むサイバー攻撃手法がある。運用時には目印がない限り正常に機能するため検知が極めて難しい、この攻撃を何と呼ぶか。
【正解の解説】
バックドア攻撃
バックドア攻撃は、特定の隠し信号を検知したときだけ誤動作するように学習段階で細工する攻撃手法です。
スポンサーリンク
【その他の選択肢の解説】
モデルインバージョン
モデルインバージョンは、出力結果から元の学習データを復元しようとする攻撃手法です。
敵対的サンプル攻撃
敵対的サンプル攻撃は、入力データに微小なノイズを加えて、AIを誤判定させる攻撃手法です。
プロンプトインジェクション
プロンプトインジェクションは、巧妙なプロンプトを入力してAIを意図しない動作へ誘導する攻撃手法です。