Ihmisen valvonta
term_id: human_oversight
Category: ethics_safety
Definition
Ihmisen valvonta viittaa mekanismeihin ja prosesseihin, joissa ihmiset seuraavat, arvioivat ja puuttuvat tekoälyn päätöksiin tai toimiin. Tämä käsite on kriittinen varmistamaan, että automatisoidut järjestelmät toimivat turvallisesti ja eettisesti.
Summary
Käytäntö, jossa ihminen säilyttää kontrollin ja tarkastuksen automatisoitujen tekoälyjärjestelmien yli varmistaakseen turvallisuuden, tarkkuuden ja eettisen noudattamisen.
Key Concepts
- Ihminen silmukan sisällä (Human-in-the-loop)
- Vastuullisuus
- Turvallisuuden seuranta
- Eettinen noudattaminen
Use Cases
- Teekoälyn tuottamien lääketieteellisten diagnoosien tarkistus ennen hoitoa
- Autonomisten ajoneuvojen interventioiden seuranta ääritilanteissa
- Rekrytointialgoritmien päätösten auditointi vinoumien varalta