Transformateurs de phrases
term_id: sentence_transformers
Category: training_techniques
Definition
Les transformateurs de phrases sont des extensions des modèles de type Transformer traditionnels (comme BERT), affinés pour produire des représentations vectorielles denses et significatives pour des phrases entières. Contrairement aux modèles standard au niveau des tokens, ils agrègent les informations de toute la phrase.
Summary
Des architectures de réseaux neuronaux spécifiquement conçues pour générer des embeddings vectoriels de taille fixe pour n’importe quelle phrase de texte.
Key Concepts
- Couches de pooling
- Apprentissage contrastif
- Embeddings denses
- Architecture Transformer
Use Cases
- Moteurs de recherche sémantique
- Regroupement de données textuelles
- Pipelines de Génération Augmentée par Récupération (RAG)