Embedding Model

term_id: embedding_model

Category: application_paradigms

Definition

Deze modellen mapperen hoogdimensionale gegevens naar een continu vectorruimte met lagere dimensies, waarbij vergelijkbare items dichter bij elkaar liggen. Deze transformatie vangt semantische relaties op, waardoor…

Summary

Een embedding-model zet ruwe gegevens zoals tekst of afbeeldingen om in dichte numerieke vectoren die semantische betekenis vertegenwoordigen.

Key Concepts

  • Vectoorrepresentatie
  • Semantische Similariteit
  • Dimensievermindering
  • Kenmerkextractie

Use Cases

  • Het bouwen van semantische zoekmachines
  • Aanbevelingssystemen voor producten of inhoud
  • Het clusteren van vergelijkbare documenten of afbeeldingen

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related