Curriculum Learning
Definition
Curriculum Learning imitiert die menschliche Bildung, indem Trainingsdaten in einer …
Optimization
Terms tagged with Optimization
Sprachaktivitätserkennung
Definition
VAD-Algorithmen analysieren Audiostreams in Echtzeit, um aktive Sprechperioden von …
Unsloth
Definition
Unsloth ist ein spezialisiertes Tool zur Optimierung des Fine-Tunings und der …
Vllm
Definition
vLLM (Virtual Large Language Model) ist eine Open-Source-Bibliothek, die darauf ausgelegt …
Token-Maximierung
Definition
Token-Maximierung beinhaltet das sorgfältige Gestalten von Eingaben, um die volle …
Drei-Faktoren-Lernen
Definition
Das Drei-Faktoren-Lernen ist ein spezifischer Ansatz im Bestärkenden Lernen, der den …
TFLite
Definition
TensorFlow Lite ist ein Open-Source-Framework, das für die Bereitstellung von …
Textgenerierungs-Inferenz
Definition
Textgenerierungs-Inferenz (TGI) ist ein dediziertes Software-Framework, das darauf …
Symbolische Regression
Definition
Symbolische Regression ist eine Art der Regressionsanalyse, die darauf abzielt, einen …
Surrogatmodell
Definition
Im maschinellen Lernen und in der Optimierung dient ein Surrogatmodell als Stellvertreter …
Regularisierung durch strukturelle Sparsity
Definition
Die Regularisierung durch strukturelle Sparsity erweitert die …
Strukturelle Risikominimierung
Definition
Die strukturelle Risikominimierung (SRM) ist eine Methode zur Minimierung des erwarteten …
Semantische Faltung
Definition
Semantische Faltung bezeichnet den Prozess des Komprimierens komplexer, hochdimensionaler …
Reparametrisierungstrick
Definition
Der Reparametrisierungstrick ist eine fundamentale Methode, die in variationalen …
Regularisierung
Definition
Regularisierung ist ein entscheidendes Konzept im maschinellen Lernen, das darauf …
Zufällige Merkmale
Definition
Zufällige Merkmalsabbildungen transformieren Eingaben in einen neuen Raum, in dem lineare …
Quantisierter Zustand
Definition
Quantisierung ist eine Modelloptimierungstechnik, die die numerische Präzision der …
Prompt-Tuning
Definition
Beim Prompt-Tuning werden trainierbare „Soft Prompts“ (kontinuierliche Vektoren) zur …
Proximale Gradientenverfahren für das Lernen
Definition
Proximale Gradientenverfahren sind iterative Optimierungstechniken, die verwendet werden, …
PagedAttention
Definition
PagedAttention ist eine vom vLLM-Projekt eingeführte Technik zur Verbesserung der …
OpenVINO
Definition
Von Intel entwickelt, ermöglicht OpenVINO (Open Visual Inference and Neural network …
MXFP4
Definition
MXFP4 (Mixed eXtended Floating Point 4-bit) ist ein spezialisierter Datentyp, der …
Methode der multiplikativen Gewichtaktualisierung
Definition
Die Methode der multiplikativen Gewichtaktualisierung ist ein grundlegender …
Multi-task Learning
Definition
Diese Technik nutzt den gemeinsamen induktiven Bias verwandter Aufgaben, um die …
MobileNet
Definition
MobileNets nutzen tiefenseparable Faltungen (Depthwise Separable Convolutions), um die …
Model Compression
Definition
Diese Kategorie umfasst Methoden wie Pruning (Beschneiden), Quantisierung und Knowledge …
Mixed-Precision-Training
Definition
Mixed-Precision-Training (MPT) kombiniert Halbgaußgenauigkeit (FP16) und Vollgenauigkeit …
Meta-Lernen
Definition
Meta-Lernen konzentriert sich auf das Design von Algorithmen, die aus vorherigen Aufgaben …
Matrixregularisierung
Definition
Die Matrixregularisierung erweitert skalare Regularisierungskonzepte auf Matrizen und …
Lokale Fall-Kontroll-Stichprobe
Definition
Die lokale Fall-Kontroll-Stichprobe ist eine Strategie, die hauptsächlich beim Training …
Lottery-Ticket-Hypothese
Definition
Die Lottery-Ticket-Hypothese besagt, dass sich in einem großen, zufällig initialisierten …
Lernender Automat
Definition
Dieses Konzept stammt aus dem Bestärkenden Lernen (Reinforcement Learning) und beinhaltet …
Layer-Normalisierung
Definition
Layer-Normalisierung stabilisiert das Training, indem sie die interne …
Wissensdistillation
Definition
Wissensdistillation ist eine Methode des maschinellen Lernens, die verwendet wird, um ein …
Wissenskompilierung
Definition
Wissenskompilierung bezeichnet Techniken in der künstlichen Intelligenz, die eine …
Instanzauswahl
Definition
Die Instanzauswahl zielt darauf ab, die Recheneffizienz und die Modellleistung zu …
Inkrementale Heuristische Suche
Definition
Inkrementale Heuristische Suche bezeichnet Algorithmen, die eine Kandidatenlösung …
Imatrix
Definition
Imatrix, abgeleitet von Importance Matrix, ist eine Technik, die hauptsächlich mit dem …
Hyperparameter-Optimierung
Definition
Hyperparameter-Optimierung (HPO) bezeichnet das breitere Feld der Automatisierung der …
Hyperparameter-Tuning
Definition
Hyperparameter-Tuning beinhaltet die Bewertung verschiedener Sets von Hyperparametern, um …
Hierarchical Risk Parity
Definition
Hierarchical Risk Parity (HRP) ist eine Portfolio-Konstruktionsmethode, die die Grenzen …
Gradientenakkumulation
Definition
Diese Optimierungsstrategie ermöglicht es, Deep-Learning-Modelle mit effektiven …
GLM MoE DSA
Definition
Der Begriff „GLM MoE DSA“ ist kein einzelner Standardbegriff. Er kombiniert jedoch …
GGUF
Definition
GGUF (GPT-Generated Unified Format) ist ein Binärdateiformat, das speziell für die …
FP8
Definition
Floating-Point 8 (FP8) ist ein numerischer Datentyp, der ein Gleichgewicht zwischen …
Feinabgestimmt
Definition
Feinabstimmung bezeichnet die Technik, ein Modell, das bereits auf einem großen, …
Fitnessapproximation
Definition
Die Fitnessapproximation wird in der evolutionären Berechnung verwendet, wenn die …
Feature Hashing
Definition
Feature Hashing, auch als Hashing-Trick bekannt, ermöglicht es Machine-Learning-Modellen, …
Feature Scaling
Definition
Feature Scaling standardisiert den Bereich der Eingangsvariablen, um zu verhindern, dass …
Feature Engineering
Definition
Feature Engineering ist die Kunst, Domänenexpertise zu nutzen, um Rohdaten in Features zu …
Exploration-Exploitation-Dilemma
Definition
Bei Entscheidungsprozessen stehen Agenten vor einem Zielkonflikt: Sie können ihr …
Extremaloptimierung
Definition
Im Gegensatz zu genetischen Algorithmen, die eine Population pflegen, arbeitet EO mit …
Evolvierbarkeit
Definition
In rechnerischen Kontexten bezieht sich Evolvierbarkeit darauf, wie leicht ein …
Minimierung des empirischen Risikos
Definition
Empirical Risk Minimization (ERM) ist die Standard-Zielfunktion zum Trainieren von …
Edge-Inferenz
Definition
Bei dieser Praxis werden trainierte KI-Modelle direkt auf Hardware wie Smartphones, …
EfficientNet
Definition
Entwickelt von Google, verwendet EfficientNet eine Methode zur kombinierten Skalierung, …
Early Stopping
Definition
Early Stopping ist eine Form der Regularisierung, die hauptsächlich in iterativen …
EM-Algorithmus und GMM-Modell
Definition
Dieser Begriff beschreibt die synergetische Beziehung zwischen dem …
Differenziell privater stochastischer Gradientenabstieg
Definition
DP-SGD ist eine Variante des Stochastic Gradient Descent, die entwickelt wurde, um die …
Diffusers: LTX-Pipeline
Definition
Die LTX-Pipeline ist maßgeschneidert für Modelle, die Geschwindigkeit und Effizienz bei …
Beschneidung von Entscheidungsbäumen
Definition
Das Beschneiden (Pruning) ist eine Methode, um Overfitting in Entscheidungsbäumen zu …
Cross-Entropie-Methode
Definition
Die Cross-Entropie-Methode (CEM) ist ein leistungsfähiger universeller …
Kostenbewusstes maschinelles Lernen
Definition
Kostenbewusstes maschinelles Lernen erweitert das traditionelle überwachte Lernen, indem …
Kontrastives Lernen
Definition
Kontrastives Lernen ist eine Methode des Repräsentationslernens, die keine gelabelten …
Computational Heuristic Intelligence
Definition
Computational Heuristic Intelligence umfasst Algorithmen, die Daumenregeln, Näherungen …
Komprimierte Tensoren
Definition
Komprimierte Tensoren sind multidimensionale Arrays, die im Deep Learning verwendet …
Clipping
Definition
Im Deep-Learning-Engineering wird Clipping häufig auf Gradienten angewendet, um das …
Caching
Definition
Im KI-Engineering optimiert Caching die Leistung, indem aktuelle oder häufig angefragte …
Batch-Größe
Definition
Die Batch-Größe ist ein kritischer Hyperparameter, der bestimmt, wie viele Samples …
Bayessche Optimierung
Definition
Die Bayessche Optimierung verwendet ein probabilistisches Surrogatmodell, typischerweise …
Batch-Normalisierung
Definition
Diese Methode passt und skaliert Aktivierungen so an, dass sie innerhalb jedes …
AlphaChip
Definition
AlphaChip ist ein spezialisiertes KI-System, das darauf ausgelegt ist, die Platzierung …
Algorithmusauswahl
Definition
Die Algorithmusauswahl umfasst die Bewertung verschiedener computergestützter Ansätze, um …
Zulässige Heuristik
Definition
Bei Pfadsuch- und Suchproblemen bietet eine zulässige Heuristik eine untere Schranke für …
Beschleunigte Lineare Algebra
Definition
Dieses Fachgebiet konzentriert sich darauf, grundlegende lineare Algebra-Berechnungen, …
A/B-Test
Definition
Ein A/B-Test ist ein randomisierter kontrollierter Versuch, bei dem zwei Varianten, A und …
Residualverbindung
Definition
Residualverbindungen, auch Skip-Connections genannt, ermöglichen den Fluss von Gradienten …
QLoRA
Definition
QLoRA kombiniert Low-Rank Adaptation (LoRA) mit 4-Bit-Quantisierung, um den …
Quantisierung
Definition
Quantisierung wandelt hochpräzise Gleitkommazahlen (wie FP32) in Formate mit niedrigerer …
Lernrate
Definition
Die Lernrate bestimmt, wie stark die Gewichte des Modells im Verhältnis zum berechneten …
Gradientenabstieg
Definition
Der Gradientenabstieg ist ein iterativer Optimierungsalgorithmus erster Ordnung zur …
Verteiltes Training
Definition
Verteiltes Training beschleunigt die Modellkonvergenz durch Parallelisierung der …
Adapter
Definition
Adapter sind eine parameter-effiziente Technik zum Feintuning, die hauptsächlich in …
Aufgabenspezifisch
Definition
Aufgabenspezifisch bezieht sich auf KI-Modelle oder Komponenten, die darauf zugeschnitten …
One-Step
Definition
Im maschinellen Lernen und in der Optimierung lösen One-Step-Methoden Probleme direkt, …
First-Order
Definition
In der künstlichen Intelligenz und Mathematik beschreibt ‘First-Order’ …
feinabgestimmt
Definition
Feinabstimmung (Fine-Tuning) beinhaltet die Übernahme eines Modells, das bereits auf …
Transferlernen
Definition
Transferlernen nutzt vortrainierte Modelle, um die Leistung zu verbessern und die …
Tuning
Definition
Tuning beinhaltet die Verfeinerung eines maschinellen Lernmodells, um eine bessere …
Hin zu / Zielgerichtet
Definition
In der KI-Entwicklung beschreibt ‘hin zu’ oft den Verlauf von …
Skalieren
Definition
Skalieren ist die aktive Methodik zur Erweiterung von KI-Systemen durch Hinzufügen …
Rate
Definition
In der KI bezieht sich ‘Rate’ am häufigsten auf die Lernrate, einen …
Optimal
Definition
In der KI und der Optimierungstheorie ist eine optimale Lösung eine, die die …
Loss (Verlust)
Definition
Loss-Funktionen, auch Kostenfunktionen genannt, messen, wie gut die Vorhersagen eines …
LoRA
Definition
LoRA friert die vorab trainierten Modellgewichte ein und fügt jeder Schicht der …
Global
Definition
Der Begriff „global“ steht in der KI typischerweise im Gegensatz zu „lokal“ und bezieht …
Schnell
Definition
Der Begriff ‘schnell’ beschreibt die Recheneffizienz innerhalb künstlicher …
Effizient
Definition
Effizienz ist eine kritische Metrik in der künstlichen Intelligenz, die misst, wie gut …
Distillation
Definition
Dieser Prozess beinhaltet die Übertragung von Wissen von einem komplexen, …
Divergenz
Definition
Im Kontext der Optimierung tritt Divergenz auf, wenn sich die Parameter eines Modells so …
Kombination
Definition
Dieses Konzept umfasst Methoden wie Ensemble-Lernen, bei denen Vorhersagen mehrerer …
Adam
Definition
Adam (Adaptive Moment Estimation) ist ein beliebter Optimierungsalgorithmus erster …
Feinabstimmung
Definition
Feinabstimmung beinhaltet die Weiterentwicklung eines Modells, das bereits auf einem …
Prompt Engineering
Definition
Prompt Engineering umfasst das gezielte Formulieren spezifischer Eingaben, sogenannter …