구조적 희소성 정규화

term_id: structured_sparsity_regularization

Category: training_techniques

Definition

구조적 희소성 정규화는 표준 L1 정규화를 확장하여 개별 계수를 독립적으로 제로(0)로 만드는 것이 아니라, 특정 패턴(예: 그룹 단위)으로 제로를 유도합니다. 이는 특징들 간의 상관관계나 구조적 prior knowledge를 모델에 통합하여 더 의미 있는 특징 선택과 해석 가능성을 제공합니다.

Summary

데이터 내 특징 그룹화나 구조에 대한 사전 지식을 바탕으로 특정 희소성 패턴을 강제하는 정규화 기법.

Key Concepts

  • 그룹 라소 (Group Lasso)
  • 특징 그룹화 (Feature grouping)
  • 희소 복원 (Sparse recovery)
  • 사전 지식 통합 (Prior knowledge integration)

Use Cases

  • 경로 구조를 가진 유전자 발현 분석
  • 블록 희소 신호를 다루는 이미지 처리
  • 공통 특징 세트를 공유하는 멀티태스킹 학습