Veri Zehirlenmesi
term_id: data_poisoning
Category: ethics_safety
Definition
Bu saldırgan teknik, eğitim verisini değiştirerek makine öğrenimi modellerinin bütünlüğünü compromize etmeyi amaçlar. İnce hatalar veya önyargılı örnekler ekleyerek saldırganlar modelin yanlış davranmasını sağlayabilir.
Summary
Veri zehirlenmesi, kötü niyetli aktörlerin model performansını düşürmek için eğitim setine bozuk veya yanıltıcı veri enjekte ettiği bir güvenlik saldırısıdır.
Key Concepts
- Saldırgan Saldırı
- Model Bütünlüğü
- Eğitim Verisi Güvenliği
- Arka Kapı Saldırıları
Use Cases
- ML hatlarının güvenlik testi
- Açık veri setlerindeki güvenlik açıklarının anlaşılması
- Sağlam savunma mekanizmaları geliştirme