Unsloth
Definition
Unsloth ist ein spezialisiertes Tool zur Optimierung des Fine-Tunings und der …
Terms tagged with Training
Unsloth ist ein spezialisiertes Tool zur Optimierung des Fine-Tunings und der …
Dieser Ansatz geht über einfaches Human-in-the-Loop-Labeling hinaus. Er beinhaltet einen …
Auch als Batch-Lernen bekannt, beinhaltet Offline-Lernen das Trainieren von …
Diese Technik nutzt den gemeinsamen induktiven Bias verwandter Aufgaben, um die …
Mixed-Precision-Training (MPT) kombiniert Halbgaußgenauigkeit (FP16) und Vollgenauigkeit …
Typischerweise zeigt eine Lernkurve Trainings- und Validierungswerte auf der y-Achse …
Wissensdistillation ist eine Methode des maschinellen Lernens, die verwendet wird, um ein …
Imatrix, abgeleitet von Importance Matrix, ist eine Technik, die hauptsächlich mit dem …
Im Gegensatz zu Modellparametern (Gewichte und Bias), die während des Trainings aus den …
Hyperparameter-Tuning beinhaltet die Bewertung verschiedener Sets von Hyperparametern, um …
Grokking bezeichnet ein kontraintuitives Verhalten beim Deep Learning, bei dem ein Modell …
Feinabstimmung bezeichnet die Technik, ein Modell, das bereits auf einem großen, …
Im maschinellen Lernen repräsentiert eine Epoch eine einzelne Iteration über den gesamten …
Beim Eager Learning erstellt das System basierend auf den Trainingsdaten vor dem …
Early Stopping ist eine Form der Regularisierung, die hauptsächlich in iterativen …
Die Domänenanpassung adressiert die Herausforderung, wenn Trainings- und Testdaten aus …
Constitutional AI ist ein Rahmenwerk zur Ausrichtung großer Sprachmodelle auf menschliche …
Das Lehrlingslernen, auch bekannt als inverses bestärkendes Lernen aus Demonstrationen, …
Dieses Feld umfasst sowohl offensive Techniken zum Brechen von Modellen als auch …
Überwachtes Feintuning (SFT) beinhaltet die Verwendung eines großen vortrainierten …
Beim überwachten Lernen wird der Algorithmus mit einem beschrifteten Datensatz trainiert, …
Selbstüberwachtes Lernen ist eine Technik, bei der der Algorithmus aus den …
Die Lernrate bestimmt, wie stark die Gewichte des Modells im Verhältnis zum berechneten …
Auch als Kosten- oder Fehlerfunktion bekannt, liefert die Verlustfunktion einen skalaren …
Der Gradientenabstieg ist ein iterativer Optimierungsalgorithmus erster Ordnung zur …
Few-Shot Learning zielt darauf ab, Modellen zu ermöglichen, aus nur wenigen Beispielen zu …
Feinabstimmung (Fine-Tuning) beinhaltet die Übernahme eines Modells, das bereits auf …
Überwachtes Lernen beinhaltet das Füttern eines Algorithmus mit Daten, die sowohl …
Pre-Training ist eine grundlegende Technik im Deep Learning, bei der ein Modell breite …
Loss-Funktionen, auch Kostenfunktionen genannt, messen, wie gut die Vorhersagen eines …
Dieser Prozess überbrückt die Lücke zwischen allgemeinem Pre-Training und spezifischer …
Feinabstimmung beinhaltet die Verwendung eines allgemeinen Modells, das auf großen …
Feinabstimmung beinhaltet die Weiterentwicklung eines Modells, das bereits auf einem …
Backpropagation, kurz für die Rückwärtsausbreitung von Fehlern, ist eine Methode, die in …
Alignment zielt darauf ab, sicherzustellen, dass KI-Systeme genau das tun, was Menschen …