Sentence Transformers
term_id: sentence_transformers
Category: training_techniques
Definition
Sentence Transformers er udvidelser af traditionelle Transformer-modeller (som BERT), der er finjusteret til at producere meningsfulde tætte vektorrepræsentationer for hele sætninger. I modsætning til standard token-niveau modeller, fokuserer de på sætningsniveauets semantik.
Summary
Neurale netværksarkitekturer specifikt designet til at generere faste vektorindlejringer for vilkårlige teksætninger.
Key Concepts
- Pooling-lag
- Kontrastiv læring
- Tætte indlejringer
- Transformer-arkitektur
Use Cases
- Semantiske søgemaskiner
- Klustering af tekstdatasæt
- Retrieval-Augmented Generation (RAG) pipelines