自己整合性(セルフコンシステンシー)

term_id: self_consistency

Category: training_techniques

Definition

主に大規模言語モデル(LLM)で使用されるこの手法は、プロンプトに対してサンプリングによって複数の多様な応答を生成し、それらの集約によって精度を向上させます。貪欲デコーディング(greedy decoding)に頼るのではなく、多数決のようなアプローチを採用することで、より信頼性の高い結果を得ることができます。

Summary

自己整合性は、複数の推論パスをサンプリングし、最も頻繁に出現する回答を最終出力として選択するデコーディング戦略です。

Key Concepts

  • 多数決投票
  • デコーディング戦略
  • LLMの推論
  • 幻覚(ハルシネーション)の低減

Use Cases

  • 数学的な文章題の解決
  • 複雑な論理的推論
  • コード合成タスク