维度灾难

term_id: curse_of_dimensionality

Category: basic_concepts

Definition

维度灾难是指在高维空间中分析数据时出现的各种现象,这些现象在低维设置中不会出现。随着特征数量的增加,数据点在空间中的分布变得极其稀疏,使得基于距离的算法(如K近邻)难以找到有意义的邻近点,从而导致模型性能下降。

Summary

一种现象,即空间的体积随维度呈指数级增加,导致数据变得稀疏,距离度量失效。

Key Concepts

  • 高维空间
  • 数据稀疏性
  • 距离度量退化
  • 指数增长

Use Cases

  • 证明使用PCA(主成分分析)的必要性
  • 解释文本挖掘中模型失败的原因
  • 设计特征选择策略