Börtönkioldás
term_id: jailbreak
Category: ethics_safety
Definition
A jailbreak (börtönkioldás) specifikus bemenetek vagy promptok megalkotását jelenti, amelyek megtévesztik az AI modellt, hogy figyelmen kívül hagyja beépített biztonsági irányelveit, és tiltott tartalmat generáljon, például gyűlöletbeszédet vagy veszélyes utasításokat.
Summary
Egy prompt mérnöki technika, amelyet arra terveztek, hogy kijátsza egy AI modell biztonsági szűrőit és etikai korlátait.
Key Concepts
- Prompt injektálás
- Biztonsági szűrők
- Piros csapat tesztelés
- Igazítás
Use Cases
- Biztonsági kutatási tesztek
- Káros tartalom szándékos generálása
- Modellek robusztusságának értékelése