Latenz
term_id: latency
Category: engineering_practice
Definition
Latenz misst die Reaktionsfähigkeit eines KI-Dienstes, typischerweise ausgedrückt in Millisekunden. Sie umfasst die Inferenzzeit, Netzwerkübertragungsverzögerungen und Verarbeitungsaufwand. Eine niedrige Latenz ist kritisch für Echtzeitanwendungen.
Summary
Die Zeitverzögerung zwischen der Initiierung einer Anfrage und dem Beginn der Antwort in einem KI-System.
Key Concepts
- Inferenzzeit
- Antwortzeit
- Echtzeitverarbeitung
- Optimierung
Use Cases
- Spracherkennungssysteme
- Steuerung autonomer Fahrzeuge
- Live-Übersetzungsdienste