Data Poisoning
term_id: data_poisoning
Category: ethics_safety
Definition
Αυτή η εχθρική τεχνική στοχεύει να compromate την ακεραιότητα των μοντέλων μηχανικής μάθησης τροποποιώντας τα δεδομένα εκπαίδευσης. Εισάγοντας λεπτά σφάλματα ή μεροληπτικά παραδείγματα, οι επιτιθέμενοι μπορούν να προκαλέσουν στο μοντέλο να
Summary
Η δηλητηρίαση δεδομένων είναι μια επίθεση ασφαλείας κατά την οποία κακόβουλοι παράγοντες εγχέουν διεφθαρμένα ή παραπλανητικά δεδομένα σε ένα σύνολο εκπαίδευσης για να υποβαθμίσουν την απόδοση του μοντέλου.
Key Concepts
- Εχθρική Επίθεση
- Ακεραιότητα Μοντέλου
- Ασφάλεια Δεδομένων Εκπαίδευσης
- Επιθέσεις Backdoor
Use Cases
- Δοκιμές ασφαλείας αλυσίδων εργαλείων ML
- Κατανόηση ευπάθειων σε ανοιχτά σύνολα δεδομένων
- Ανάπτυξη ανθεκτικών μηχανισμών άμυνας