Transformery pro věty
term_id: sentence_transformers
Category: training_techniques
Definition
Transformery pro věty jsou rozšířením tradičních modelů Transformer (jako je BERT), které jsou doladěny tak, aby produkovaly smysluplné husté vektorové reprezentace pro celé věty. Na rozdíl od standardních modelů na úrovni tokenů…
Summary
Architektury neuronových sítí specificky navržené pro generování pevně velikostních vektorových vložení pro libovolné textové věty.
Key Concepts
- Poolovací vrstvy
- Kontrastní učení
- Hustá vložení
- Architektura Transformer
Use Cases
- Sémantické vyhledávací engine
- Shlukování textových dat
- Pipeline Retrieval-Augmented Generation (RAG)