Menneskelig tilsyn
term_id: human_oversight
Category: ethics_safety
Definition
Menneskelig tilsyn refererer til mekanismer og prosesser der mennesker overvåker, evaluerer og griper inn i AI-drevne beslutninger eller handlinger. Dette konseptet er kritisk for å sikre at automatiserte systemer opererer trygt og etisk forsvarlig.
Summary
Praksisen med å opprettholde menneskelig kontroll og gjennomgang av automatiserte AI-systemer for å sikre sikkerhet, nøyaktighet og etisk overholdelse.
Key Concepts
- Menneske i løkken
- Ansvarlighet
- Sikkerhetsovervåking
- Etisk overholdelse
Use Cases
- Gjennomgang av AI-genererte medisinske diagnoser før behandling
- Overvåking av inngrep i autonome kjøretøyer under kanttilfeller
- Revisjon av algoritmes baserte ansettelsesbeslutninger for skjevhet