Menneskelig tilsyn
term_id: human_oversight
Category: ethics_safety
Definition
Menneskeligt tilsyn refererer til de mekanismer og processer, hvor mennesker overvåger, evaluerer og griber ind i AI-styrede beslutninger eller handlinger. Dette koncept er afgørende for at sikre, at automatiserede systemer opererer inden for sikre og etiske rammer.
Summary
Praksis med at opretholde menneskelig kontrol og gennemgang af automatiserede AI-systemer for at sikre sikkerhed, nøjagtighed og etisk overholdelse.
Key Concepts
- Menneske i løkken
- Ansvarlighed
- Sikkerhedsovervågning
- Etisk overholdelse
Use Cases
- Gennemgang af AI-genererede medicinske diagnoser før behandling
- Overvågning af indgreb i autonome køretøjer under kanttilfælde
- Revision af algoritmes baserede ansættelsesbeslutninger for bias