Halucynacja
term_id: hallucination
Category: application_paradigms
Definition
Halucynacje występują, gdy modele generatywne AI produkują wyjście, które wydaje się wiarygodne, ale nie ma oparcia w rzeczywistości ani w danych źródłowych. Jest to istotne wyzwanie w aplikacjach wymagających wysokiej dokładności…
Summary
Gdy model AI generuje pewne siebie, ale merytorycznie błędne lub bezsensowne informacje.
Key Concepts
- Faktyczność
- Błąd generatywny
- Kalibracja pewności
- Ugruntowanie (grounding)
Use Cases
- Identyfikacja błędów w automatycznie generowanych raportach
- Rozwijanie generowania wspieranego wyszukiwaniem (RAG) w celu redukcji błędów
- Ocena niezawodności modelu w krytycznych decyzjach