Sentence Transformers

term_id: sentence_transformers

Category: training_techniques

Definition

Sentence Transformers là phiên bản mở rộng của các mô hình Transformer truyền thống (như BERT), được tinh chỉnh để tạo ra các biểu diễn vector dày đặc mang ý nghĩa cho toàn bộ câu. Khác với các mô hình cấp token tiêu chuẩn…

Summary

Kiến trúc mạng nơ-ron được thiết kế đặc biệt để tạo ra các vector embedding kích thước cố định cho bất kỳ câu văn nào.

Key Concepts

  • Lớp pooling
  • Học đối sánh tương phản
  • Embedding dày đặc
  • Kiến trúc Transformer

Use Cases

  • Công cụ tìm kiếm ngữ nghĩa
  • Phân cụm dữ liệu văn bản
  • Quy trình Retrieval-Augmented Generation (RAG)