الهذيان
term_id: hallucination
Category: application_paradigms
Definition
يحدث الهذيان عندما تنتج نماذج الذكاء الاصطناعي التوليدية مخرجات تبدو معقولة ولكنها تفتقر إلى الأساس في الواقع أو البيانات المصدر. يُعد هذا تحدياً كبيراً في التطبيقات التي تتطلب دقة عالية.
Summary
عندما يولد نموذج الذكاء الاصطناعي معلومات واثقة لكنها غير صحيحة واقعياً أو غير منطقية.
Key Concepts
- الحقيقة الواقعية
- خطأ توليدي
- معايرة الثقة
- التوثيق (Grounding)
Use Cases
- تحديد الأخطاء في توليد التقارير الآلي
- تطوير التوليد المعزز بالاسترجاع (RAG) لتقليل الأخطاء
- تقييم موثوقية النموذج في اتخاذ القرارات الحرجة