AI-sikkerhed
term_id: ai_safety
Category: ethics_safety
Definition
AI-sikkerhed dækker over forskning og praksis, der sigter mod at sikre, at autonome systemer opfører sig på en måde, der er gavnlig og ikke-skadelig for mennesker. Det adresserer risici såsom bias, desinformation og sikkerhedsbrister.
Summary
Et forskningsfelt fokuseret på at forhindre utilsigtede skadelige konsekvenser fra avancerede kunstige intelligenssystemer.
Key Concepts
- Robusthed
- Risikoanalyse
- Fejlstopmekanismer
- Gennemsigtighed
Use Cases
- Regulering af autonome køretøjer
- Validering af medicinske diagnostikværktøjer
- Systemer til detektion af finansiel svindel