Feature Hashing

term_id: feature_hashing

Category: basic_concepts

Definition

Feature Hashing, auch als Hashing-Trick bekannt, ermöglicht es Machine-Learning-Modellen, große, spärliche Merkmalsräume zu verarbeiten, ohne eine explizite Zuordnung zwischen Merkmalen und Indizes aufrechterhalten zu müssen. Durch die Anwendung einer Hash-Funktion wird die Dimensionalität reduziert, was den Speicherbedarf erheblich verringert und die Effizienz bei der Verarbeitung großer Datenmengen steigert.

Summary

Eine Technik, die hochdimensionale, spärliche Merkmale mit einer Hash-Funktion auf einen Vektor fester Größe abbildet.

Key Concepts

  • Hash-Funktion
  • Spärliche Vektoren
  • Dimensionsreduktion
  • Speichereffizienz

Use Cases

  • Textklassifizierung mit großen Vokabularen
  • Empfehlungssysteme mit riesigen Artikelgruppen
  • Echtzeit-Verarbeitung von Streaming-Daten

Code Example

1
2
3
4
5
6
7
8

from sklearn.feature_extraction import FeatureHasher
import numpy as np

# Example: Hashing text features
hasher = FeatureHasher(n_features=10, input_type='string')
docs = ['hello world', 'hello python', 'world python']
hashed = hasher.transform(docs)
print(hashed.toarray())

Related