Robusthet
term_id: robustness
Category: ethics_safety
Definition
Inom AI-säkerhet och etik syftar robusthet på en modells motståndskraft mot oväntade indata eller skadliga manipulationer. Ett robust system fortsätter att fungera korrekt även när indata innehåller brus
Summary
Förmågan hos en AI-modell att upprätthålla prestanda och stabilitet när den ställs inför brusiga data, motsträviga attacker eller fördelningsförskjutningar.
Key Concepts
- Motsträviga attacker
- Fördelningsförskjutning
- Brustolerans
- Modellpålitlighet
Use Cases
- Perception i autonoma fordon
- Bedrägeridektionssystem
- Modeller för medicinsk diagnostik