次元の呪い
term_id: curse_of_dimensionality
Category: basic_concepts
Definition
次元の呪いとは、高次元空間でデータを分析する際に発生し、低次元の状況では見られない様々な現象を指します。特徴量の数が増加すると、データポイントは空間に対して非常に希薄になり、ランダムサンプリングが困難になります。また、ユークリッド距離などの距離尺度の意味合いが薄れ、機械学習アルゴリズムのパフォーマンスが低下する原因となります。
Summary
特徴量の増加に伴って空間の体積が指数関数的に増大し、データが希薄化して距離計測などの手法が効果を失う現象。
Key Concepts
- 高次元空間
- データの希薄化
- 距離尺度の劣化
- 指数関数的成長
Use Cases
- 主成分分析（PCA）の使用正当化
- テキストマイニングにおけるモデル失敗の説明
- 特徴量選択戦略の設計