Pre-antrenat
term_id: pretrained
Category: training_techniques
Definition
Termenul ‘pre-antrenat’ descrie un model de rețea neuronală care a suferit un antrenament inițial pe un set de date masiv, adesea generic, cum ar fi ImageNet sau Wikipedia. Acest proces permite modelului să învețe caracteristici fundamentale și reprezentări generale ale datelor, care pot apoi transferate și rafinate (fine-tuned) pentru sarcini specifice cu mult mai puține date și timp de calcul.
Summary
Se referă la un model care a fost deja antrenat pe un set de date mare înainte de a fi adaptat pentru o sarcină specifică.
Key Concepts
- Învățare prin transfer
- Extragerea caracteristicilor
- Modele fundamentale
- Ajustare fină
Use Cases
- Inițializarea modelelor BERT sau GPT
- Utilizarea ResNet pentru clasificarea imaginilor
- Punct de plecare pentru sarcini NLP specifice domeniului