Textgenerierungs-Inferenz
Definition
Textgenerierungs-Inferenz (TGI) ist ein dediziertes Software-Framework, das darauf …
Deployment
Terms tagged with Deployment
Pruning
Definition
Pruning beinhaltet das Identifizieren und Eliminieren von Neuronen, Verbindungen oder …
OpenVINO
Definition
Von Intel entwickelt, ermöglicht OpenVINO (Open Visual Inference and Neural network …
Model Compression
Definition
Diese Kategorie umfasst Methoden wie Pruning (Beschneiden), Quantisierung und Knowledge …
Microservices
Definition
Im Kontext des AI-Engineering ermöglichen Microservices, dass verschiedene Komponenten …
MLOps
Definition
MLOps ermöglicht es Organisationen, Machine-Learning-Modelle in der Produktion …
Lokales LLM
Definition
Das Ausführen eines lokalen LLMs beinhaltet die Bereitstellung von Open-Weight-Modellen …
Letzte Meile
Definition
Das „Last-Mile“-Problem bezieht sich auf die Herausforderungen bei der Bereitstellung von …
Sicherheitsvorkehrungen (Guardrails)
Definition
Sicherheitsvorkehrungen (Guardrails) bezeichnen eine Reihe von Softwarekontrollen und …
Gpt Oss
Definition
GPT OSS bezeichnet typischerweise Open-Source-Alternativen oder Ableitungen proprietärer …
Edge-Inferenz
Definition
Bei dieser Praxis werden trainierte KI-Modelle direkt auf Hardware wie Smartphones, …
Edge Computing
Definition
Edge Computing adressiert die Latenz- und Bandbreitenbeschränkungen cloudbasierter …
Diffusion Single File
Definition
Diffusion Single File bezeichnet eine Verpackungsstrategie für Machine-Learning-Modelle, …
Algorithmische Inferenz
Definition
Auch bekannt als Vorhersage oder Scoring, tritt die Inferenz nach der Trainingsphase des …
Testen
Definition
Testen im KI-Engineering umfasst die rigorose Bewertung von Modellen anhand verschiedener …
Quantisierung
Definition
Quantisierung wandelt hochpräzise Gleitkommazahlen (wie FP32) in Formate mit niedrigerer …
Docker
Definition
Docker ermöglicht es Entwicklern, eine Anwendung zusammen mit allen ihren Abhängigkeiten …
Echtzeit
Definition
In der künstlichen Intelligenz bezeichnet Echtzeit die Fähigkeit eines Systems, Eingaben …
kostengünstig
Definition
Kostengünstige KI konzentriert sich auf Effizienz und zielt darauf ab, die …
Vehicle
Definition
Während es traditionell Transport bedeutet, kann ‘Vehicle’ in der …
Cloud
Definition
Cloud Computing bietet skalierbare Infrastruktur für KI-Arbeitslasten und ermöglicht es …
Inferenz
Definition
Inferenz bezeichnet die Bereitstellungsphase, in der ein abgeschlossenes Modell verwendet …