Transformatori de propoziții
term_id: sentence_transformers
Category: training_techniques
Definition
Transformatorii de propoziții sunt extensii ale modelelor tradiționale Transformer (cum ar fi BERT), finetunate pentru a produce reprezentări vectoriale dense și semnificative pentru propoziții întregi. Spre deosebire de modelele standard la nivel de token
Summary
Arhitecturi de rețele neuronale concepute specific pentru a genera încorporări vectoriale de dimensiune fixă pentru propoziții text arbitrar.
Key Concepts
- Straturi de agregare (Pooling layers)
- Învățare contrastivă
- Încorporări dense
- Arhitectura Transformer
Use Cases
- Motoare de căutare semantică
- Clusterizarea datelor textuale
- Pipelines de Generare Augmentată de Recuperare (RAG)