Tính tự nhất quán
term_id: self_consistency
Category: training_techniques
Definition
Chủ yếu được sử dụng với các Mô hình Ngôn ngữ Lớn (LLM), kỹ thuật này cải thiện độ chính xác bằng cách tạo ra nhiều phản hồi đa dạng cho một lời nhắc thông qua việc lấy mẫu. Thay vì dựa vào giải mã tham lam (greedy decoding), nó tổng hợp các kết quả để tìm ra đáp án đồng thuận.
Summary
Tính tự nhất quán là một chiến lược giải mã nơi nhiều đường dẫn suy luận được lấy mẫu và câu trả lời phổ biến nhất được chọn làm kết quả cuối cùng.
Key Concepts
- Bỏ phiếu đa số
- Chiến lược giải mã
- Suy luận LLM
- Giảm ảo giác (hallucination)
Use Cases
- Giải quyết bài toán toán học dạng văn bản
- Suy luận logic phức tạp
- Nhiệm vụ tổng hợp mã nguồn