Διπτή Πτώση
term_id: double_descent
Category: basic_concepts
Definition
Η διπτή πτώση αμφισβητεί τον παραδοσιακό συμβιβασμό μέσης τιμής-διακύμανσης δείχνοντας ότι τα πολύ υπερπαραμετροποιημένα μοντέλα μπορούν να πετύχουν χαμηλό σφάλμα δοκιμής παρά το ότι διαπερνούν τα δεδομένα εκπαίδευσης. Αρχικά, το σφάλμα αυξάνεται καθώς αυξάνεται η πολυπλοκότητα, αλλά μετά πέφτει ξανά.
Summary
Ένα φαινόμενο όπου το σφάλμα δοκιμής μειώνεται, αυξάνεται και στη συνέχεια μειώνεται ξανά καθώς η πολυπλοκότητα του μοντέλου ξεπερνά το όριο διαδιαγραφής.
Key Concepts
- Όριο Διαδιαγραφής
- Υπερπαραμετροποίηση
- Συμβιβασμός Μέσης Τιμής-Διακύμανσης
- Σφάλμα Δοκιμής
Use Cases
- Ανάλυση νόμων κλίμακας νευρωνικών δικτύων
- Κατανόηση της γενίκευσης στη βαθιά μάθηση
- Επιλογή μοντέλου σε συστήματα τεχνητής νοημοσύνης μεγάλης κλίμακας