問題 No.1057
機械学習モデルのブラックボックス性を解消するために個々の予測結果の周辺を局所的に近似して説明を試みる手法であるLIMEに関する説明として、最も不適切なものを1つ選べ。
【正解の解説】
モデル全体の全般的な特徴量の重要度を一括で正確に算出するのに最も適した手法である。
LIMEはあくまで「個別の予測結果」に対する理由を説明する手法です。モデル全体の傾向を一括で説明したい場合は別の手法が適しています。
スポンサーリンク
【その他の選択肢の解説】
説明対象となる予測データの周辺に疑似データを生成し、その重み付けデータで単純なモデルを訓練する。
LIMEは、予測したいデータの周りに少し変化を加えた疑似データを作り、その結果を見て、「この周辺ではこういうルールで動いているようだ」と局所的に近似して説明します。
どのような機械学習モデルに対しても適用可能なモデル非依存の手法である。
LIMEはモデルの内部構造に関係なく、入力と出力の関係だけを見て説明を行う「モデル非依存（モデルアグノスティック）」な手法です。
画像データに対して適用する際は、画像をピクセル単位ではなく画素の塊であるスーパーピクセル単位で扱う。
画像データの場合、ピクセル（点）単位だと細かすぎるため、意味を持つ画素の塊であるスーパーピクセルとして扱い、説明しやすくしています。