Early Stopping

term_id: early_stopping

Category: training_techniques

Definition

Early stopping adalah bentuk regularisasi yang digunakan terutama dalam proses pelatihan iteratif seperti gradien descend. Selama pelatihan, performa model pada data pelatihan biasanya terus meningkat, namun performa pada data validasi bisa memburuk jika model mulai menghafal noise (overfitting). Early stopping menghentikan pelatihan tepat sebelum hal ini terjadi.

Summary

Early stopping adalah teknik regularisasi yang menghentikan proses pelatihan ketika performa model pada set validasi mulai menurun, mencegah overfitting.

Key Concepts

  • Regularisasi
  • Set Validasi
  • Pencegahan Overfitting
  • Parameter Kesabaran

Use Cases

  • Pelatihan jaringan saraf
  • Algoritma penguatan gradien
  • Model peramalan deret waktu