Modelo de Embedding

term_id: embedding_model

Category: application_paradigms

Definition

Esses modelos mapeiam dados de alta dimensão para um espaço vetorial contínuo de menor dimensão, onde itens semelhantes estão localizados mais próximos uns dos outros. Essa transformação captura relações semânticas, permitindo uma melhor compreensão e comparação de dados.

Summary

Um modelo de embedding converte dados brutos, como texto ou imagens, em vetores numéricos densos que representam o significado semântico.

Key Concepts

  • Representação Vetorial
  • Similaridade Semântica
  • Redução de Dimensionalidade
  • Extração de Características

Use Cases

  • Construção de mecanismos de busca semântica
  • Sistemas de recomendação para produtos ou conteúdo
  • Agrupamento de documentos ou imagens semelhantes

Code Example

1
2
3
4
5
6
7
from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)