Nadzór człowieka
term_id: human_oversight
Category: ethics_safety
Definition
Nadzór człowieka odnosi się do mechanizmów i procesów, w których ludzie monitorują, oceniają i interweniują w decyzje lub działania podejmowane przez systemy oparte na sztucznej inteligencji. Koncepcja ta jest kluczowa dla zapewnienia, że zautomatyzowane systemy działają bezpiecznie i odpowiedzialnie.
Summary
Praktyka utrzymywania kontroli i przeglądu przez człowieka nad zautomatyzowanymi systemami AI, aby zapewnić bezpieczeństwo, dokładność i zgodność etyczną.
Key Concepts
- Człowiek w pętli sterowania (Human-in-the-loop)
- Rozliczalność
- Monitorowanie bezpieczeństwa
- Zgodność etyczna
Use Cases
- Przeglądanie diagnoz medycznych wygenerowanych przez AI przed rozpoczęciem leczenia
- Monitorowanie interwencji w pojazdach autonomicznych w przypadkach skrajnych
- Audyt algorytmicznych decyzji rekrutacyjnych pod kątem uprzedzeń