Jailbreak
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreak tarkoittaa tiettyjen syötteiden tai kehotteiden laatimista, jotka huijaavat tekoälymallia jättämään huomiotta sisäänrakennetut turvallisuusohjeet ja tuottamaan kiellettyä sisältöä, kuten vihapuhetta tai vaarallisia ohjeita.
Summary
Keino, jolla pyritään ohittamaan tekoälymallin turvallisuussuodattimet ja eettiset rajoitteet hyödyntämällä kehotetekniikkaa.
Key Concepts
- Kehotteen ruiskutus (Prompt Injection)
- Turvallisuussuodattimet
- Red Teaming (punainen tiimi)
- Yhdenmukaisuus (Alignment)
Use Cases
- Turvallisuustutkimuksen testaus
- Haitallisen sisällön tuottaminen pahantahtoisesti
- Mallin robustisuuden arviointi