Modelo de Embedding

term_id: embedding_model

Category: application_paradigms

Definition

Estos modelos mapean datos de alta dimensión a un espacio vectorial continuo de menor dimensión donde los elementos similares se encuentran más cerca unos de otros. Esta transformación captura relaciones semánticas, permitiendo comparaciones matemáticas eficientes entre conceptos.

Summary

Un modelo de embedding convierte datos crudos como texto o imágenes en vectores numéricos densos que representan el significado semántico.

Key Concepts

  • Representación Vectorial
  • Similitud Semántica
  • Reducción de Dimensionalidad
  • Extracción de Características

Use Cases

  • Construcción de motores de búsqueda semántica
  • Sistemas de recomendación de productos o contenido
  • Agrupamiento de documentos o imágenes similares

Code Example

1
2
3
4
5
6
7
from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)