Unsloth
Definition
Unsloth — это специализированный инструмент, предназначенный для оптимизации дообучения и …
Training
Terms tagged with Training
Взаимное обучение человека и машины
Definition
Этот подход выходит за рамки простой разметки данных человеком (human-in-the-loop). Он …
Оффлайн-обучение
Definition
Также известное как пакетное обучение, оффлайн-обучение включает обучение моделей …
Многозадачное обучение
Definition
Этот метод использует индуктивное смещение, общее для связанных задач, чтобы повысить …
Обучение со смешанной точностью (Mixed Precision Training)
Definition
Обучение со смешанной точностью (MPT) объединяет данные половинной точности (FP16) и …
Кривая обучения
Definition
Как правило, кривая обучения показывает значения обучающей и валидационной ошибок по оси …
Дистилляция знаний
Definition
Дистилляция знаний — это метод машинного обучения, используемый для сжатия крупной …
Imatrix
Definition
Imatrix (от Importance Matrix — Матрица важности) — это техника, преимущественно …
Гиперпараметр
Definition
В отличие от параметров модели (весов и смещений), которые обучаются на данных в процессе …
Настройка гиперпараметров
Definition
Настройка гиперпараметров включает оценку различных наборов гиперпараметров для …
Гроккинг
Definition
Гроккинг (Grokking) относится к контринтуитивному поведению, наблюдаемому в глубоком …
Дообученный
Definition
Дообучение относится к технике использования модели, которая уже была обучена на большом …
Эпоха
Definition
В машинном обучении эпоха представляет собой одну итерацию по всему обучающему набору …
Жадное обучение
Definition
При жадном обучении система строит общую целевую функцию или модель на основе обучающих …
Ранняя остановка
Definition
Ранняя остановка — это форма регуляризации, используемая преимущественно в итеративных …
Адаптация к домену
Definition
Адаптация к домену решает проблему, когда обучающие и тестовые данные имеют разные …
Конституционный ИИ
Definition
Конституционный ИИ — это фреймворк для согласования больших языковых моделей с …
Обучение по подражанию эксперту
Definition
Обучение по подражанию эксперту, также известное как обратное обучение с подкреплением на …
Состязательное машинное обучение
Definition
Эта область охватывает как наступательные техники для взлома моделей, так и …
Обучение с учителем
Definition
В обучении с учителем алгоритм тренируется на размеченном наборе данных, что означает, …
Супервизированное дообучение
Definition
Супервизированное дообучение (SFT) предполагает взятие большой предварительно обученной …
Самоконтролируемое обучение
Definition
Самоконтролируемое обучение — это техника, при которой алгоритм создает сигналы обучения …
Скорость обучения
Definition
Скорость обучения определяет, насколько сильно веса модели обновляются относительно …
Функция потерь
Definition
Также известная как функция стоимости или ошибка, функция потерь предоставляет скалярное …
Градиентный спуск
Definition
Градиентный спуск — это алгоритм оптимизации первого порядка для нахождения локального …
Few-shot обучение
Definition
Few-shot обучение направлено на то, чтобы позволить моделям обобщать знания всего по …
дообученный (fine-tuned)
Definition
Дообучение предполагает использование модели, уже обученной на большом общем наборе …
Обучение с учителем
Definition
Обучение с учителем предполагает подачу алгоритму данных, содержащих как входы, так и …
Предобучение
Definition
Предобучение — это фундаментальная техника в глубоком обучении, при которой модель …
Функция потерь
Definition
Функции потерь, также известные как функции стоимости, измеряют, насколько хорошо …
Инструктивное дообучение
Definition
Этот процесс заполняет разрыв между общим предварительным обучением и выполнением …
Тонкая настройка
Definition
Тонкая настройка предполагает взятие универсальной модели, обученной на больших наборах …
Дообучение (Fine-tuning)
Definition
Дообучение предполагает взятие модели, уже обученной на большом общем наборе данных, и её …
Обратное распространение ошибки
Definition
Обратное распространение ошибки (backpropagation) — это метод, используемый в …
Выравнивание
Definition
Выравнивание фокусируется на том, чтобы ИИ-системы делали то, что люди действительно …