Jailbreak
term_id: jailbreak
Category: ethics_safety
Definition
Il jailbreaking consiste nel creare input o prompt specifici che inducono un modello di IA a ignorare le proprie linee guida di sicurezza integrate, generando contenuti proibiti come discorsi d’odio o istruzioni pericolose.
Summary
Una tecnica di ingegneria del prompt progettata per aggirare i filtri di sicurezza e i vincoli etici di un modello di IA.
Key Concepts
- Iniezione di Prompt
- Filtri di Sicurezza
- Red Teaming
- Allineamento
Use Cases
- Test di ricerca sulla sicurezza
- Generazione maliziosa di contenuti dannosi
- Valutazione della robustezza del modello