İstem Enjeksiyonu
term_id: prompt_injection
Category: ethics_safety
Definition
İstem enjeksiyonu, büyük dil modellerinin kullanıcı talimatlarını nasıl yorumladığından yararlanarak, girdi metni içinde gizli veya çelişkili yönergeler yerleştirir. Bu durum, modelin orijinal güvenlik protokollerini veya talimatlarını görmezden gelmesine ve saldırganın belirlediği eylemleri gerçekleştirmesine neden olabilir.
Summary
Kötü niyetli girdilerin bir yapay zeka modelini manipüle ederek güvenlik filtrelerini atlamasına veya istenmeyen komutları çalıştırmasına neden olan saldırgan bir saldırı türüdür.
Key Concepts
- Saldırgan Saldırılar
- Sistem İstemleri
- Güvenlik Riskleri
- Girdi Temizleme
Use Cases
- Büyük Dil Modelleri Güvenlik Testleri
- Sohbet Botu Güvenliği
- Veri Gizliliği Koruması