Lause-transformerit
term_id: sentence_transformers
Category: training_techniques
Definition
Lause-transformerit ovat perinteisten Transformer-mallien (kuten BERT) laajennoksia, jotka on hienosäädetty tuottamaan merkityksellisiä tiheitä vektoriesityksiä koko lauseille. Toisin kuin tavalliset tokenitasoiset mallit, ne tuottavat yhden vektorin per lause.
Summary
Neuraaliset verkkoarkkitehtuurit, jotka on suunniteltu erityisesti tuottamaan kiinteäkokoisia vektorisidoksia mielivaltaisille tekstialueille.
Key Concepts
- Pohjakerrokset (Pooling layers)
- Kontrastiivinen oppiminen
- Tiheät sidokset
- Transformer-arkkitehtuuri
Use Cases
- Semanttiset hakukoneet
- Tekstidatan klusterointi
- Hakuun perustuva generointi (RAG) -putket