Sikkerhed
term_id: safety
Category: ethics_safety
Definition
AI-sikkerhed er et tværfagligt felt, der fokuserer på at forhindre uguntige udfald fra avanceret kunstig intelligens. Det omfatter tekniske udfordringer såsom justering (alignment), fortolkbarhed og robusthed, samt etiske og reguleringsmæssige aspekter ved udvikling og udrulning af intelligente systemer.
Summary
Studiet og praksis med at sikre, at AI-systemer ikke forårsager fysisk, digital eller samfundsmæssig skade.
Key Concepts
- Værdijustering (Value Alignment)
- Fortolkbarhed
- Styringsteori
- Risikoassessment
Use Cases
- Udvikling af nødstopsfunktioner til autonome køretøjer
- Revision af algoritmer for bias
- Oprettelse af rammeværker for AI-regulering