Upotusmalli

term_id: embedding_model

Category: application_paradigms

Definition

Nämä mallit kartoittavat korkeadimensioista dataa alemmadimensioiseen jatkuvaan vektoriavaruuteen, jossa samankaltaiset kohteet sijaitsevat lähempänä toisiaan. Tämä muunnos vangitsee semanttiset suhteet, mikä mahdollistaa tehokkaan datan käsittelyn.

Summary

Upotusmalli muuntaa raakadataa, kuten tekstiä tai kuvia, tiheiksi numeerisiksi vektoreiksi, jotka edustavat semanttista merkitystä.

Key Concepts

  • Vektori-esitys
  • Semanttinen samankaltaisuus
  • Dimensioiden vähentäminen
  • Ominaisuuspoiminta

Use Cases

  • Semanttisten hakukoneiden rakentaminen
  • Tuote- tai sisältösuosittelujärjestelmät
  • Samankaltaisten dokumenttien tai kuvien ryhmittely

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related