Sikkerhet
term_id: safety
Category: ethics_safety
Definition
AI-sikkerhet er et tverrfaglig felt som fokuserer på å forhindre uguntige utfall fra avansert kunstig intelligens. Det omfatter tekniske utfordringer som rettsaming, tolkbarhet og robusthet, samt etiske og regulatoriske aspekter.
Summary
Studiet og utøvelsen av å sikre at AI-systemer ikke forårsaker fysisk, digital eller samfunnsmessig skade.
Key Concepts
- Verdi-rettsaming
- Tolkbarhet
- Kontrollteori
- Risikoanalyse
Use Cases
- Utvikling av nødstopp for autonome kjøretøy
- Revisjon av algoritmer for fordommer
- Opprettelse av regulatoriske rammer for AI-utplassering