Pengacakan Fitur

term_id: feature_hashing

Category: basic_concepts

Definition

Pengacakan fitur, yang juga dikenal sebagai trik pengacakan (hashing trick), memungkinkan model pembelajaran mesin menangani ruang fitur yang besar dan jarang tanpa perlu mempertahankan pemetaan eksplisit antara fitur dan indeks. Dengan menerapkan fungsi hash, teknik ini mengubah fitur menjadi indeks vektor yang tetap, sehingga menghemat memori dan komputasi.

Summary

Sebuah teknik yang memetakan fitur jarang (sparse) berdimensi tinggi ke dalam vektor berukuran tetap menggunakan fungsi hash.

Key Concepts

  • Fungsi Hash
  • Vektor Jarang
  • Reduksi Dimensi
  • Efisiensi Memori

Use Cases

  • Klasifikasi teks dengan kosakata besar
  • Sistem rekomendasi dengan set item yang sangat besar
  • Pemrosesan data aliran waktu nyata (real-time streaming)

Code Example

1
2
3
4
5
6
7
8
from sklearn.feature_extraction import FeatureHasher
import numpy as np

# Example: Hashing text features
hasher = FeatureHasher(n_features=10, input_type='string')
docs = ['hello world', 'hello python', 'world python']
hashed = hasher.transform(docs)
print(hashed.toarray())