Jailbreak
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreaking implică elaborarea unor intrări sau prompturi specifice care induc în eroare un model AI pentru a ignora ghidurile de siguranță integrate și a genera conținut interzis, cum ar fi discurs ură sau instrucțiuni periculoase.
Summary
O tehnică de inginerie a prompturilor concepută pentru a ocoli filtrele de siguranță și constrângerile etice ale unui model AI.
Key Concepts
- Injectare de prompturi
- Filtre de siguranță
- Echipa roșie (Red Teaming)
- Aliniere
Use Cases
- Testare în cercetarea securității
- Generarea malitioasă de conținut dăunător
- Evaluarea robusteței modelului