Curriculum Learning
term_id: curriculum_learning
Category: training_techniques
Definition
Curriculum Learning imitiert die menschliche Bildung, indem Trainingsdaten in einer strukturierten Reihenfolge präsentiert werden, beginnend mit einfachen Samples und schrittweise steigender Komplexität. Dieser Ansatz hilft neuronalen Netzen,
Summary
Eine Trainingsstrategie, bei der Modelle zunächst von einfachen Beispielen lernen, bevor sie zu schwierigeren übergehen.
Key Concepts
- Progressive Schwierigkeit
- Sequenzierung der Samples
- Konvergenzgeschwindigkeit
- Verallgemeinerungsfähigkeit
Use Cases
- Training tiefer neuronaler Netze auf komplexen Bilddatensätzen
- Sprachmodellierung mit variierenden Satzkomplexitäten
- Aufgaben des bestärkenden Lernens (Reinforcement Learning) mit spärlichen Belohnungen