問題 No.139
k近傍法は、未知のデータの近くにある「k個」の過去データの多数決によってクラスを決定する単純なアルゴリズムである。このハイパーパラメータである「kの値」を極端に小さく（例えば k = 1 に）設定して学習・予測を行った場合、モデルにどのような影響を及ぼすか。
【正解の解説】
データのノイズに強く影響され、過学習を起こしやすくなる
k=1だと最も近いデータ1つだけを見て決めるため、たまたま近くにあったノイズの影響を強く受けて過学習しやすくなります。
スポンサーリンク
【その他の選択肢の解説】
モデルの境界線が極めて滑らかになり、未学習になる
k近傍法においてkを大きくしすぎると、境界線が単純になりすぎてしまい、未学習（アンダーフィッティング）が起きます。
どのようなデータに対しても常に同じクラスしか予測しなくなる
kの値に関わらず、学習データに依存するため、常に同じクラスしか予測しないわけではありません。
計算量が完全にゼロになり、事前の訓練時間が長くなる
k近傍法は予測時に計算を行う手法のため、事前の訓練時間はほぼ不要ですが、計算量自体は予測時に発生します。