Jailbreak
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreaking innebär att skapa specifika indata eller prompts som lurar en AI-modell att ignorera sina inbyggda säkerhetsriktlinjer och generera förbjudet innehåll, såsom hatiskt tal eller farliga instruktioner.
Summary
En teknik för prompt-engineering som är utformad för att kringgå en AI-modells säkerhetsfilter och etiska begränsningar.
Key Concepts
- Promptinjektion
- Säkerhetsfilter
- Red Teaming (Att testa sårbarheter)
- Alignering
Use Cases
- Testning inom säkerhetsforskning
- Maliciös generering av skadligt innehåll
- Utvärdering av modellens robusthet