Robustheit
term_id: robustness
Category: ethics_safety
Definition
In Bezug auf KI-Sicherheit und Ethik bezeichnet Robustheit die Widerstandsfähigkeit eines Modells gegenüber unerwarteten Eingaben oder böswilligen Manipulationen. Ein robustes System funktioniert auch dann korrekt weiter, wenn die Eingabedaten Rauschen enthalten.
Summary
Die Fähigkeit eines KI-Modells, Leistung und Stabilität aufrechtzuerhalten, wenn es mit verrauschten Daten, adversariellen Angriffen oder Verschiebungen in der Datenverteilung konfrontiert wird.
Key Concepts
- Adversarielle Angriffe
- Verschiebung der Datenverteilung
- Rauschtoleranz
- Modellzuverlässigkeit
Use Cases
- Wahrnehmungssysteme in autonomen Fahrzeugen
- Betrugserkennungssysteme
- Modelle für medizinische Diagnosen