Robustnost
term_id: robustness
Category: ethics_safety
Definition
V oblasti bezpečnosti a etiky AI se robustnost týká odolnosti modelu vůči neočekávaným vstupům nebo škodlivým manipulacím. Robustní systém pokračuje ve správném fungování i tehdy, když vstupní data obsahují šum
Summary
Schopnost modelu AI udržet výkon a stabilitu při čele s zašuměnými daty, adversariálními útoky nebo posunem distribuce dat.
Key Concepts
- Adversariální útoky
- Posun distribuce
- Odolnost vůči šumu
- Spolehlivost modelu
Use Cases
- Vnímání autonomních vozidel
- Systémy detekce podvodů
- Modely pro lékařskou diagnostiku