Embedding Model

term_id: embedding_model

Category: application_paradigms

Definition

Disse modellene avbilder høydimensjonale data inn i et lavdimensjonalt kontinuerlig vektorrom der lignende elementer befinner seg nærmere hverandre. Denne transformasjonen fanger opp semantiske relasjoner, noe som gjør det mulig å…

Summary

En embedding-modell konverterer rå data som tekst eller bilder til tette numeriske vektorer som representerer semantisk mening.

Key Concepts

  • Vektorrepresentasjon
  • Semantisk likhet
  • Dimensjonsredusering
  • Funksjonsekstraksjon

Use Cases

  • Bygging av semantiske søkemotorer
  • Anbefalingssystemer for produkter eller innhold
  • Klyngedanning av lignende dokumenter eller bilder

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related