Emberi felügyelet
term_id: human_oversight
Category: ethics_safety
Definition
Az emberi felügyelet olyan mechanizmusokra és folyamatokra utal, amelyek során az emberek figyelik, értékelik és beavatkoznak az MI-alapú döntésekbe vagy cselekvésekbe. Ez a fogalom kritikus fontosságú annak biztosításában, hogy az automatizált rendszerek…
Summary
Az a gyakorlat, amely során az emberek fenntartják az irányítást és felülvizsgálatot az automatizált MI-rendszerek felett a biztonság, pontosság és etikai megfelelőség biztosítása érdekében.
Key Concepts
- Ember a hurokban (Human-in-the-loop)
- Elszámoltathatóság
- Biztonsági monitorozás
- Etikai megfelelés
Use Cases
- MI által generált orvosi diagnózisok felülvizsgálata a kezelés előtt
- Autonóm járművek beavatkozásainak monitorozása szélsőséges eseteknél
- Algoritmikus felvételi döntések auditálása torzítások szempontjából