Random feature

term_id: random_feature

Category: basic_concepts

Definition

랜덤 피처 맵은 입력을 새로운 공간으로 변환하여 선형 모델이 비선형 커널 함수를 근사할 수 있게 합니다. 이 접근 방식은 종종 Nystrom 방법이나 푸리에 피처와 관련되어 있으며, 계산 효율성을 높여줍니다.

Summary

입력 데이터를 무작위 투영을 사용하여 고차원 공간으로 매핑하여 커널 방법을 효율적으로 근사하는 기법입니다.

Key Concepts

  • 커널 근사
  • 피처 매핑
  • 계산 효율성
  • 선형화

Use Cases

  • 대규모 커널 회귀
  • 신경 접대 커널(Neural Tangent Kernel) 근사
  • 확장 가능한 가우시안 프로세스

Code Example

1
2
3
4
5
import numpy as np
from sklearn.kernel_approximation import RBFSampler
X = np.random.rand(100, 5)
transformer = RBFSampler(gamma=1, n_components=50, random_state=42)
X_transformed = transformer.fit_transform(X)