Prompt-injektio
term_id: prompt_injection
Category: ethics_safety
Definition
Prompt-injektio hyödyntää suurten kielimallien tapaa tulkita käyttäjän ohjeita upottamalla piilotettuja tai ristiriitaisia direktiivejä syötetekstiin. Tämä voi johtaa siihen, että malli ohittaa alkuperäiset turvallisuusohjeensa.
Summary
Vastahyökkäys, jossa haitalliset syötteet manipuloidaan tekoälymallia kiertämään turvallisuussuodattimet tai suorittamaan aiheettomia komentoja.
Key Concepts
- Vastahyökkäykset
- Järjestelmäpromptit
- Turvallisuusriskit
- Syötteen puhdistus
Use Cases
- Kielimallien turvallisuustestaus
- Keskustelubottien turvallisuus
- Tietosuojan suojaaminen