Agent-verifikation
term_id: agent_verification
Category: application_paradigms
Definition
Dette indebærer brugen af matematiske metoder til at sikre, at en agents handlinger overholder prædefinerede begrænsninger, såsom sikkerhedsgrænser eller etiske retningslinjer. Det er særligt vigtigt for agenter, der opererer i kritiske miljøer.
Summary
Agent-verifikation er processen med formelt at bevise, at en autonom agent vil opføre sig korrekt og sikkert under alle specificerede betingelser.
Key Concepts
- Formelle metoder
- Sikkerhedsgarantier
- Modelkontrol
- Korrektbevis
Use Cases
- Sikkerhed for autonome køretøjer
- Medicinske beslutningsstøttesystemer
- Styring af kritisk infrastruktur