Doppia discesa
term_id: double_descent
Category: basic_concepts
Definition
La doppia discesa sfida il tradizionale compromesso bias-varianza mostrando che modelli altamente sovraparametrizzati possono raggiungere un basso errore di test nonostante interpolino i dati di addestramento. Inizialmente, l’errore aumenta con la complessità, ma dopo una certa soglia (soglia di interpolazione), ricomincia a diminuire.
Summary
Un fenomeno in cui l’errore di test diminuisce, aumenta e poi diminuisce nuovamente man mano che la complessità del modello cresce oltre la soglia di interpolazione.
Key Concepts
- Soglia di interpolazione
- Sovraparametrizzazione
- Compromesso bias-varianza
- Errore di test
Use Cases
- Analisi delle leggi di scalabilità delle reti neurali
- Comprensione della generalizzazione nell’apprendimento profondo
- Selezione del modello in sistemi di IA su larga scala