Hallusinointi
term_id: hallucination
Category: application_paradigms
Definition
Hallusinoinnit syntyvät, kun generatiiviset tekoälymallit tuottavat ulostuloa, joka vaikuttaa uskottavalta mutta joka ei perustu todellisuuteen tai lähdetietoihin. Tämä on merkittävä haaste sovelluksissa, joissa vaaditaan korkeaa tarkkuutta.
Summary
Tilanne, jossa tekoälymalli tuottaa varman oloista mutta tosiasiallisesti virheellistä tai merkityksetöntä tietoa.
Key Concepts
- Totuudenmukaisuus
- Generatiivinen virhe
- Varmuuskalibrointi
- Maadoitus (kontekstin sitominen)
Use Cases
- Virheiden tunnistaminen automaattisesti tuotetuissa raporteissa
- Hakuun perustuvan generoinnin (RAG) kehittäminen virheiden vähentämiseksi
- Mallin luotettavuuden arviointi kriittisissä päätöksenteon tilanteissa