Modèle d'Embedding

term_id: embedding_model

Category: application_paradigms

Definition

Ces modèles mappent des données de haute dimension dans un espace vectoriel continu de dimension inférieure où les éléments similaires sont situés plus près les uns des autres. Cette transformation capture les relations sémantiques, permettant…

Summary

Un modèle d’embedding convertit des données brutes comme le texte ou les images en vecteurs numériques denses représentant le sens sémantique.

Key Concepts

  • Représentation Vectorielle
  • Similarité Sémantique
  • Réduction de Dimensionnalité
  • Extraction de Caractéristiques

Use Cases

  • Construction de moteurs de recherche sémantiques
  • Systèmes de recommandation pour les produits ou le contenu
  • Regroupement de documents ou d’images similaires

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related