הזיה
term_id: hallucination
Category: application_paradigms
Definition
הזיות מתרחשות כאשר מודלי יצור מייצרים פלט שנראה סביר אך חסר בסיס במציאות או בנתוני המקור. זוהי אתגר משמעותי ביישומים הדורשים דיוק גבוה
Summary
כאשר מודל בינה מלאכותית מייצר מידע לא אמין או חסר משמעות, אך מציג זאת בביטחון.
Key Concepts
- עובדתיות
- שגיאה יצירתית
- כיול ביטחון
- התייחסות למקור (Grounding)
Use Cases
- זיהוי שגיאות ביצירת דוחות אוטומטיים
- פיתוח יצירה מוגברת החיפוש (RAG) להפחתת שגיאות
- הערכת אמינות המודל בקבלת החלטות קריטיות