Latență
term_id: latency
Category: engineering_practice
Definition
Latența măsoară capacitatea de răspuns a unui serviciu de IA, fiind exprimată de obicei în milisecunde. Aceasta include timpul de inferență, întârzierile de transmitere a rețelei și suprasarcina de procesare. O latență scăzută este critică pentru
Summary
Intervalul de timp dintre inițierea unei cereri și începerea răspunsului într-un sistem de inteligență artificială.
Key Concepts
- Timp de inferență
- Timp de răspuns
- Procesare în timp real
- Optimizare
Use Cases
- Sisteme de recunoaștere vocală
- Controlul vehiculelor autonome
- Servicii de traducere live