自洽性

term_id: self_consistency

Category: training_techniques

Definition

该技术主要用于大型语言模型(LLM),通过采样生成针对同一提示的多个多样化响应来提高准确性。与依赖贪婪解码不同,它聚合

Summary

自洽性是一种解码策略,其中采样多个推理路径,并选择出现频率最高的答案作为最终输出。

Key Concepts

  • 多数投票
  • 解码策略
  • LLM推理
  • 减少幻觉

Use Cases

  • 数学应用题
  • 复杂逻辑推导
  • 代码合成任务