Sicherheit
term_id: safety
Category: ethics_safety
Definition
AI Safety (Sicherheit der Künstlichen Intelligenz) ist ein interdisziplinäres Feld, das darauf abzielt, nachteilige Ergebnisse durch fortschrittliche künstliche Intelligenz zu verhindern. Es umfasst technische Herausforderungen wie Ausrichtung, Interpretierbarkeit und Robustheit.
Summary
Die Wissenschaft und Praxis der Sicherstellung, dass KI-Systeme keinen physischen, digitalen oder gesellschaftlichen Schaden verursachen.
Key Concepts
- Wertorientierte Ausrichtung
- Interpretierbarkeit
- Regelungstheorie
- Risikobewertung
Use Cases
- Entwicklung von Not-Aus-Schaltern für autonome Fahrzeuge
- Überprüfung von Algorithmen auf Verzerrungen
- Erstellung regulatorischer Rahmenwerke für den KI-Einsatz