KI-Sicherheit
term_id: ai_safety
Category: ethics_safety
Definition
KI-Sicherheit umfasst Forschung und Praktiken, die darauf abzielen sicherzustellen, dass autonome Systeme sich auf eine Weise verhalten, die für den Menschen vorteilhaft und nicht schädlich ist. Dabei werden Risiken wie Verzerrungen (Bias), Desinformation und Sicherheitslücken adressiert.
Summary
Ein Forschungsfeld, das sich darauf konzentriert, unbeabsichtigte schädliche Folgen fortschrittlicher künstlicher Intelligenzsysteme zu verhindern.
Key Concepts
- Robustheit
- Risikobewertung
- Ausfallsicherheiten
- Transparenz
Use Cases
- Regulierung autonomer Fahrzeuge
- Validierung medizinischer Diagnosewerkzeuge
- Systeme zur Betrugsbekämpfung im Finanzwesen