Галлюцинация (Hallucination)
term_id: hallucination
Category: application_paradigms
Definition
Галлюцинации возникают, когда генеративные ИИ-модели выдают результат, который кажется правдоподобным, но не имеет опоры на реальность или исходные данные. Это является значительной проблемой в приложениях, требующих высокой точности…
Summary
Ситуация, когда ИИ-модель генерирует уверенно звучащую, но фактическую неверную или бессмысленную информацию.
Key Concepts
- Фактологичность
- Ошибка генерации
- Калибровка уверенности
- Заземление (Grounding)
Use Cases
- Выявление ошибок при автоматической генерации отчетов
- Разработка методов генерации с извлечением информации (RAG) для снижения ошибок
- Оценка надежности модели при принятии критических решений