AI-sikkerhet
term_id: ai_safety
Category: ethics_safety
Definition
AI-sikkerhet omfatter forskning og praksis rettet mot å sikre at autonome systemer oppfører seg på en måte som er gunstig og ikke-skadelig for mennesker. Det adresserer risikoer som bias, desinformasjon og sikkerhetshull i kritiske systemer.
Summary
Et forskningsfelt fokusert på å forhindre utilsiktede skadelige konsekvenser fra avanserte kunstige intelligenssystemer.
Key Concepts
- Robusthet
- Risikoanalyse
- Feilsikring
- Gjennomsiktighet
Use Cases
- Regulering av autonome kjøretøy
- Validering av verktøy for medisinsk diagnostikk
- Systemer for deteksjon av finanssvindel