임베딩 모델

term_id: embedding_model

Category: application_paradigms

Definition

이 모델들은 고차원 데이터를 저차원의 연속 벡터 공간으로 매핑하여, 유사한 항목들이 서로 더 가깝게 위치하도록 합니다. 이러한 변환은 의미론적 관계를 포착하여 유사한 데이터 간의 관계를 이해하는 데 도움을 줍니다.

Summary

임베딩 모델은 텍스트나 이미지와 같은 원시 데이터를 의미론적 의미를 나타내는 밀집 수치 벡터로 변환합니다.

Key Concepts

  • 벡터 표현
  • 의미론적 유사성
  • 차원 축소
  • 특징 추출

Use Cases

  • 시맨틱 검색 엔진 구축
  • 제품 또는 콘텐츠 추천 시스템
  • 유사 문서 또는 이미지의 클러스터링

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related