Jailbreak
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreaking zahrnuje vytváření specifických vstupů nebo promptů, které oklamou model AI tak, že ignoruje vestavěné bezpečnostní pokyny a generuje zakázaný obsah, jako je nenávistná řeč nebo nebezpečné instrukce…
Summary
Technika inženýrství promptů určená k obejití bezpečnostních filtrů a etických omezení modelu AI.
Key Concepts
- Vstřikování promptů
- Bezpečnostní filtry
- Testování red teamingu
- Ladění (Alignment)
Use Cases
- Testování bezpečnostního výzkumu
- Maliciousní generování škodlivého obsahu
- Hodnocení odolnosti modelu