Embedding Model

term_id: embedding_model

Category: application_paradigms

Definition

Disse modeller kortlægger højdimensionelle data til et lavdimensionelt kontinuert vektorrum, hvor lignende elementer placeres tættere sammen. Denne transformation fanger semantiske relationer, hvilket gør det muligt for maskiner at forstå og sammenligne betydningen af data.

Summary

En embedding-model omdanner rådata som tekst eller billeder til tætte numeriske vektorer, der repræsenterer semantisk betydning.

Key Concepts

  • Vektorrepræsentation
  • Semantisk lighed
  • Dimensjonsreduktion
  • Funktionsekstraktion

Use Cases

  • Bygning af semantiske søgemaskiner
  • Anbefalingssystemer til produkter eller indhold
  • Klyngedannelse af lignende dokumenter eller billeder

Code Example

1
2
3
4
5
6
7
from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)