問題 No.778
AIを用いた採用システムにおいて、システム自体には人種や性別といった直接的な属性情報を一切入力していないにもかかわらず、居住地域や出身校などの間接的な情報が代理変数として機能してしまい、結果的に特定のグループに対して不当に不利な判定が下されてしまう現象を指す法的・倫理的用語はどれか。
【正解の解説】
ディスパレート・インパクト
ディスパレート・インパクト（Disparate Impact）は、表面上は中立的な基準でも、結果として特定の属性を持つグループに不当な不利益が生じることを指します。
スポンサーリンク
【その他の選択肢の解説】
ベンダーロックイン
ベンダーロックインは、特定のベンダーの製品やサービスに依存しすぎて、他社への乗り換えが困難になる状態を指します。
ハルシネーション
ハルシネーションは、AIが事実に基づかない情報をあたかも正しいかのように自信満々に生成する現象です。
モード崩壊
モード崩壊は、敵対的生成ネットワーク(GAN)の学習において、生成されるデータが特定のパターンに偏ってしまう現象です。