Adverzální strojové učení
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Tento obor zahrnuje jak útočné techniky k prolomení modelů, tak obranné strategie k jejich posílení. Zahrnuje trénování modelů na adverzálních příkladech za účelem zlepšení jejich odolnosti, procesu známému jako adverzální trénink.
Summary
Adverzální strojové učení je obor, který studuje, jak učinit modely strojového učení odolnými vůči škodlivým vstupům určeným k jejich oklamání.
Key Concepts
- Adverzální trénink
- Odolnost (robustnost)
- Mezera v generalizaci
- Bezpečnost
Use Cases
- Zlepšování odolnosti modelů
- Bezpečnostní audit systémů AI
- Vývoj obranných mechanismů