Latence
term_id: latency
Category: engineering_practice
Definition
Latence měří odezvu služby AI, obvykle vyjádřenou v milisekundách. Zahrnuje dobu inferenčního zpracování, zpoždění přenosu sítí a režii zpracování. Nízká latence je kritická pro aplikace vyžadující okamžitou odezvu, jako jsou hlasové asistenti nebo autonomní řízení.
Summary
Časové zpoždění mezi zahájením požadavku a začátkem odpovědi v systému umělé inteligence.
Key Concepts
- Doba inferenčního zpracování
- Doba odezvy
- Zpracování v reálném čase
- Optimalizace
Use Cases
- Systémy rozpoznávání řeči
- Řízení autonomních vozidel
- Služby živého překladu