Viive
term_id: latency
Category: engineering_practice
Definition
Viive mittaa tekoälypalvelun reagointikykyä, ja se ilmaistaan yleensä millisekunneina. Se sisältää päättelyajan, verkon välitysviiveet ja käsittelyyn liittyvät lisäkuormat. Matala viive on kriittistä reaaliaikaisille sovelluksille.
Summary
Aika pyynnön aloittamisesta vasteen alkuun tekoälyjärjestelmässä.
Key Concepts
- Päättelyaika
- Vastaaika
- Reaaliaikainen käsittely
- Optimointi
Use Cases
- Äänentunnistusjärjestelmät
- Itseohjautuvien ajoneuvojen ohjaus
- Suorat käännospalvelut