Mänsklig tillsyn
term_id: human_oversight
Category: ethics_safety
Definition
Mänsklig tillsyn syftar på de mekanismer och processer där människor övervakar, utvärderar och ingriper i AI-drivna beslut eller handlingar. Detta begrepp är avgörande för att säkerställa att automatiserade system fungerar säkert och etiskt.
Summary
Praktiken att upprätthålla mänsklig kontroll och granskning över automatiserade AI-system för att säkerställa säkerhet, noggrannhet och etisk efterlevnad.
Key Concepts
- Människa-i-loopen
- Ansvarsskyldighet
- Säkerhetsövervakning
- Etisk efterlevnad
Use Cases
- Granskning av AI-genererade medicinska diagnoser innan behandling påbörjas
- Övervakning av ingripanden vid autonoma fordon under kantfall
- Revidering av algoritmiska anställningsbeslut för att upptäcka bias