Halusinasi
term_id: hallucination
Category: application_paradigms
Definition
Halusinasi terjadi ketika model AI generatif menghasilkan output yang tampak masuk akal tetapi tidak berlandaskan pada realitas atau data sumber. Ini merupakan tantangan signifikan dalam aplikasi yang memerlukan akurasi tinggi
Summary
Ketika model AI menghasilkan informasi yang diyakini benar secara faktual namun sebenarnya salah atau tidak masuk akal.
Key Concepts
- Faktualitas
- Kesalahan Generatif
- Kalibrasi Kepercayaan
- Pemberdayaan (Grounding)
Use Cases
- Mengidentifikasi kesalahan dalam pembuatan laporan otomatis
- Mengembangkan generasi yang diperkaya pengambilan (RAG) untuk mengurangi kesalahan
- Mengevaluasi keandalan model dalam pengambilan keputusan kritis