Uczenie maszynowe adversarialne
term_id: adversarial_machine_learning
Category: training_techniques
Definition
Dziedzina ta obejmuje zarówno techniki ofensywne mające na celu złamanie działania modeli, jak i strategie obronne służące ich wzmocnieniu. Polega ona na trenowaniu modeli na przykładach adversarialnych w celu poprawy ich odporności.
Summary
Uczenie maszynowe adversarialne to dziedzina badająca sposoby zapewnienia odporności modeli uczenia maszynowego na złośliwe dane wejściowe zaprojektowane tak, aby je oszukać.
Key Concepts
- Trening adversarialny
- Odporność
- Luka uogólniania
- Bezpieczeństwo
Use Cases
- Poprawa odporności modeli
- Audyt bezpieczeństwa systemów AI
- Rozwijanie mechanizmów obronnych