Jailbreak (Ξέφυγο Ασφαλείας)
term_id: jailbreak
Category: ethics_safety
Definition
Το jailbreak περιλαμβάνει τη σύνταξη συγκεκριμένων εισόδων ή εντολών που εξαπατούν ένα μοντέλο ΤΝ ώστε να αγνοήσει τις ενσωματωμένες οδηγίες ασφαλείας του και να παράγει απαγορευμένο περιεχόμενο, όπως ομιμί μίσους ή επικίνδυνες οδηγίες…
Summary
Μια τεχνική μηχανικής εντολών (prompt engineering) που σχεδιάστηκε για να παρακάμψει τα φίλτρα ασφαλείας και τους ηθικούς περιορισμούς ενός μοντέλου ΤΝ.
Key Concepts
- Έγχυση Εντολής
- Φίλτρα Ασφαλείας
- Δοκιμές Red Teaming
- Συμφωνία (Alignment)
Use Cases
- Δοκιμές έρευνας ασφαλείας
- Μαλicious παραγωγή επιβλαβούς περιεχομένου
- Αξιολόγηση της ανθεκτικότητας του μοντέλου