Model de Încorporare

term_id: embedding_model

Category: application_paradigms

Definition

Aceste modele mapează datele cu dimensiuni mari într-un spațiu vectorial continuu de dimensiuni reduse, unde elementele similare sunt situate mai aproape unele de altele. Această transformare capturează relațiile semantice, permițând compararea eficientă a conținutului.

Summary

Un model de încorporare convertește datele brute, cum ar fi textul sau imaginile, în vectori numerici densi care reprezintă sensul semantic.

Key Concepts

  • Reprezentare vectorială
  • Similaritate semantică
  • Reducerea dimensionalității
  • Extragerea caracteristicilor

Use Cases

  • Construirea motoarelor de căutare semantice
  • Sisteme de recomandare pentru produse sau conținut
  • Clusterizarea documentelor sau imaginilor similare

Code Example

1
2
3
4
5
6
7
from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)