Edge-Inferenz
term_id: edge_inference
Category: engineering_practice
Definition
Bei dieser Praxis werden trainierte KI-Modelle direkt auf Hardware wie Smartphones, IoT-Sensoren oder eingebettete Systeme deployed. Durch die lokale Datenverarbeitung reduziert die Edge-Inferenz die Latenzzeit erheblich und erhöht die Datensicherheit.
Summary
Edge-Inferenz bezeichnet den Prozess der lokalen Ausführung von Machine-Learning-Modellen auf Endgeräten der Nutzer, anstatt auf zentralisierten Cloud-Servern.
Key Concepts
- Latenzreduzierung
- Datenschutz
- Modellquantisierung
- Lokale Verarbeitung
Use Cases
- Echtzeit-Objekterkennung in autonomen Drohnen
- Spracherkennung auf Smart Speakers
- Prädiktive Wartung bei industriellen IoT-Sensoren