Mô hình Nhúng (Embedding Model)

term_id: embedding_model

Category: application_paradigms

Definition

Các mô hình này ánh xạ dữ liệu nhiều chiều vào một không gian vectơ liên tục có chiều thấp hơn, nơi các mục tương tự nhau được đặt gần nhau hơn. Phép biến đổi này nắm bắt các mối quan hệ ngữ nghĩa, cho phép máy tính hiểu và so sánh nội dung.

Summary

Một mô hình nhúng chuyển đổi dữ liệu thô như văn bản hoặc hình ảnh thành các vectơ số dày đặc đại diện cho ý nghĩa ngữ nghĩa.

Key Concepts

  • Biểu diễn Vectơ
  • Tương đồng Ngữ nghĩa
  • Giảm chiều dữ liệu
  • Trích xuất Đặc trưng

Use Cases

  • Xây dựng công cụ tìm kiếm ngữ nghĩa
  • Hệ thống gợi ý sản phẩm hoặc nội dung
  • Phân cụm các tài liệu hoặc hình ảnh tương tự

Code Example

1
2
3
4
5
6
7

from transformers import AutoTokenizer, AutoModel
import torch

model = AutoModel.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
tokenizer = AutoTokenizer.from_pretrained('sentence-transformers/all-MiniLM-L6-v2')
inputs = tokenizer('Hello world', return_tensors='pt')
embeddings = model(**inputs).last_hidden_state.mean(dim=1)

Related