Latence
term_id: latency
Category: engineering_practice
Definition
La latence mesure la réactivité d’un service d’IA, généralement exprimée en millisecondes. Elle inclut le temps d’inférence, les délais de transmission réseau et la surcharge de traitement. Une faible latence est critique pour
Summary
Le délai temporel entre le début d’une requête et le début de la réponse dans un système d’intelligence artificielle.
Key Concepts
- Temps d’inférence
- Temps de réponse
- Traitement en temps réel
- Optimisation
Use Cases
- Systèmes de reconnaissance vocale
- Contrôle de véhicules autonomes
- Services de traduction en direct