Învățare automată adversarială
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Acest domeniu cuprinde atât tehnici ofensive pentru a sparge modelele, cât și strategii defensive pentru a le întări. Implică antrenarea modelelor pe exemple adversare pentru a îmbunătăți reziliența acestora, un proces cunoscut sub numele de antrenament adversarial.
Summary
Învățarea automată adversarială este un domeniu care studiază modul de a face modelele de învățare automată robuste împotriva intrărilor malitioase concepute pentru a le înșela.
Key Concepts
- Antrenament adversarial
- Robustețe
- Decalaj de generalizare
- Securitate
Use Cases
- Îmbunătățirea rezilienței modelului
- Auditul de securitate al sistemelor AI
- Dezvoltarea mecanismelor de apărare