過学習

term_id: overfitting

Category: training_techniques

Definition

過学習は、モデルがトレーニングデータ（そのランダムなノイズや外れ値を含む）を過度に学習してしまった状態を指します。その結果、トレーニングデータ上では優れたパフォーマンスを示しますが、新しく未知のテストデータに対するパフォーマンスは著しく低下します。

Summary

機械学習アルゴリズムが背後にある信号ではなくノイズを捉えてしまい、汎化性能を低下させるモデル化のエラー。

Key Concepts

高分散
汎化性能の低下
トレーニング誤差とテスト誤差のギャップ
モデルの複雑さ

Use Cases

モデルパフォーマンスの問題診断
正則化強度の選択
最適なモデル深さの決定