Матричная регуляризация
term_id: matrix_regularization
Category: training_techniques
Definition
Матричная регуляризация расширяет концепции скалярной регуляризации на матрицы и часто используется в задачах многозадачного обучения или рекомендательных системах. Она накладывает ограничения на норму весовых матриц, такие как норма Фробениуса или ядерная норма, чтобы контролировать сложность модели.
Summary
Техника применения штрафных членов к параметрам в виде матриц для предотвращения переобучения и обеспечения структурных свойств, таких как разреженность.
Key Concepts
- Норма Фробениуса
- Ядерная норма
- Предотвращение переобучения
- Приближение низкого ранга
Use Cases
- Совместная фильтрация
- Многозадачное обучение
- Снижение размерности