Embedding Model

term_id: embedding_model

Category: application_paradigms

Definition

Dessa modeller avbildar högdimensionell data till ett kontinuerligt vektorrum med lägre dimension där liknande objekt placeras närmare varandra. Denna transformation fångar semantiska relationer, vilket möjliggör

Summary

En embedding-model omvandlar rådata som text eller bilder till täta numeriska vektorer som representerar semantisk mening.

Key Concepts

  • Vektorrepresentation
  • Semantisk likhet
  • Dimensionalitetsreduktion
  • Funktionsextraktion

Use Cases

  • Att bygga semantiska sökmotorer
  • Rekommendationssystem för produkter eller innehåll
  • Klusteranalys av liknande dokument eller bilder

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related