Lidský dohled
term_id: human_oversight
Category: ethics_safety
Definition
Lidský dohled se vztahuje na mechanismy a procesy, při kterých lidé monitorují, hodnotí a zasahují do rozhodnutí nebo akcí řízených umělou inteligencí. Tento koncept je klíčový pro zajištění toho, aby automatizované systémy fungovaly bezpečně a eticky.
Summary
Praxe udržování lidské kontroly a revize nad automatizovanými systémy AI za účelem zajištění bezpečnosti, přesnosti a etické souladnosti.
Key Concepts
- Člověk v smyčce (Human-in-the-loop)
- Zodpovědnost
- Bezpečnostní monitorování
- Etická souladnost
Use Cases
- Revize lékařských diagnóz vygenerovaných AI před zahájením léčby
- Monitorování zásahů autonomních vozidel v okrajových případech
- Audit náborových rozhodnutí algoritmů ohledně předsudků