Arka Kapı Saldırısı
term_id: backdoor_attack
Category: ethics_safety
Definition
Bir arka kapı saldırısı, makine öğrenimi modelinin eğitim verisinin, tetikleyici adı verilen belirli kalıtlarla zehirlenmesini içerir. Model temiz verilerde normal şekilde çalışırken, yanlış davranışları tetiklemek için…
Summary
Kötü niyetli aktörlerin, belirli yanlış sınıflandırmalara neden olmak için eğitim sırasında yapay zeka modellerine gizli tetikleyiciler yerleştirdiği bir güvenlik tehdididir.
Key Concepts
- Veri Zehirlenmesi
- Model Bütünlüğü
- Düşman Makine Öğrenimi
- Tetikleyici Kalıpları
Use Cases
- ML hatlarının güvenlik testi
- Savunma filtrelerinin geliştirilmesi
- Üçüncü taraf modellerin denetlenmesi