Latentie
term_id: latency
Category: engineering_practice
Definition
Latentie meet de responsiviteit van een AI-service, meestal uitgedrukt in milliseconden. Het omvat inferentietijd, netwerktransmissievertragingen en verwerkingsoverhead. Een lage latentie is kritiek voor toepassingen waarbij real-time interactie vereist is, zoals spraakassistenten of autonome voertuigen.
Summary
De tijdvertraging tussen het starten van een verzoek en het begin van de respons in een AI-systeem.
Key Concepts
- Inferentietijd
- Responstijd
- Real-time verwerking
- Optimalisatie
Use Cases
- Spraakherkenningssystemen
- Besturing van autonome voertuigen
- Live vertaalservices