Εχθρική Επίθεση
term_id: adversarial_attack
Category: ethics_safety
Definition
Οι εχθρικές επιθέσεις εκμεταλλεύονται τις ευπάθειες των νευρωνικών δικτύων εισάγοντας λεπτή θόρυβο στις εισόδους, όπως εικόνες ή κείμενο, το οποίο προκαλεί σημαντικά σφάλματα στην έξοδο του μοντέλου. Αυτές οι επιθέσεις υπογραμμίζουν την ανάγκη για ανθεκτικότητα.
Summary
Μια εχθρική επίθεση είναι μια τεχνική κατά την οποία προστίθενται μικρές, συχνά αόρατες διαταραχές στα δεδομένα εισόδου για να εξαπατηθούν τα μοντέλα μηχανικής μάθησης και να προκαλέσουν λανθασμένες προβλέψεις.
Key Concepts
- Διαταραχή
- Ανθεκτικότητα Μοντέλου
- Λευκό κουτί έναντι Μαύρου κουτιού
- Επιθέσεις Παράκαμψης
Use Cases
- Δοκιμή ασφαλείας μοντέλων
- Δημιουργία εχθρικών παραδειγμάτων για εκπαίδευση
- Ανάλυση ευπάθειας σε συστήματα όρασης υπολογιστή