Hallucination

term_id: hallucination

Category: application_paradigms

Definition

Hiện tượng Hallucination xảy ra khi các mô hình AI sinh tạo tạo ra đầu ra trông có vẻ hợp lý nhưng thiếu cơ sở thực tế hoặc dữ liệu nguồn. Đây là một thách thức đáng kể trong các ứng dụng đòi hỏi độ chính xác cao và tính trung thực của thông tin.

Summary

Khi một mô hình AI tạo ra thông tin sai lệch về mặt sự thật hoặc vô nghĩa nhưng vẫn thể hiện sự tự tin cao.

Key Concepts

  • Tính Chính xác Sự kiện (Factuality)
  • Lỗi Sinh tạo (Generative Error)
  • Hiệu chuẩn Độ tin cậy (Confidence Calibration)
  • Neo đậu (Grounding)

Use Cases

  • Nhận diện lỗi trong quá trình tạo báo cáo tự động
  • Phát triển phương pháp Sinh tạo Tăng cường Truy xuất (RAG) để giảm thiểu lỗi
  • Đánh giá độ tin cậy của mô hình trong việc ra quyết định quan trọng

Related