句子变换器

term_id: sentence_transformers

Category: training_techniques

Definition

句子变换器是传统变换器模型(如BERT)的扩展,经过微调以产生整个句子的有意义稠密向量表示。与标准的基于标记的模型不同,它们直接输出句子级别的嵌入。

Summary

专门设计用于为任意文本句子生成固定大小向量嵌入的神经网络架构。

Key Concepts

  • 池化层
  • 对比学习
  • 稠密嵌入
  • 变换器架构

Use Cases

  • 语义搜索引擎
  • 文本数据聚类
  • 检索增强生成 (RAG) 管道