Människan i loopen
term_id: human_in_the_loop
Category: ethics_safety
Definition
Människan i loopen (HITL) avser AI-system som kräver mänsklig inblandning vid olika stadier i arbetsflödet, såsom datamärkning, modellutvärdering eller godkännande av slutliga beslut. Denna metod säkerställer ansvar och noggrannhet.
Summary
En systemdesign där människor aktivt deltar i beslutsfattandet eller återkopplingsprocessen för en AI-modell.
Key Concepts
- Återkopplingsloop
- Ansvarsskyldighet
- Validering
- Övervakning
Use Cases
- Verifiering av medicinska diagnoser
- Granskning av innehållsmoderering
- Godkännande av detektering av finansiell bedrägeri