Jailbreak (Kilit Açma)
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreak, bir yapay zeka modelini yerleşik güvenlik yönergelerini görmezden gelmeye ve nefret söylemi, tehlikeli talimatlar gibi yasaklanmış içerikler üretmeye ikna eden spesifik girdiler veya istemler oluşturmayı içerir.
Summary
Bir yapay zeka modelinin güvenlik filtrelerini ve etik kısıtlamalarını atlamak için tasarlanmış bir istem mühendisliği tekniği.
Key Concepts
- İstem Enjeksiyonu
- Güvenlik Filtreleri
- Kırmızı Takım Çalışması (Red Teaming)
- Hizalama (Alignment)
Use Cases
- Güvenlik araştırması testleri
- Kötü niyetle zararlı içerik üretimi
- Model sağlamlığının değerlendirilmesi