pre-antrenat
term_id: pre_trained
Category: training_techniques
Definition
Un model pre-antrenat este un model de bază în inteligența artificială care a suferit un antrenament extins pe seturi de date masive și diverse, cum ar fi Wikipedia sau ImageNet. Acest antrenament inițial permite modelului să învețe reprezentări generale ale limbajului sau ale imaginilor, servind ca punct de plecare solid pentru sarcini downstream prin transfer de cunoștințe.
Summary
Modelele pre-antrenate sunt rețele neuronale care au fost antrenate pe seturi de date mari pentru a învăța caracteristici generale înainte de a fi adaptate pentru sarcini specifice.
Key Concepts
- Învățare prin transfer (Transfer Learning)
- Modele de bază (Foundation Models)
- Extragerea caracteristicilor (Feature Extraction)
- Inițializarea greutăților (Weights Initialization)
Use Cases
- Construcția chatbot-urilor folosind modele lingvistice mari (LLMs)
- Clasificarea imaginilor folosind arhitecturi precum ResNet
- Analiza sentimentelor cu BERT