Token maxxing
term_id: token_maxxing
Category: basic_concepts
Definition
Token maxxing melibatkan pembuatan input secara cermat untuk memanfaatkan kapasitas penuh jendela konteks model atau mengoptimalkan kepadatan semantik token demi kinerja yang lebih baik. Praktisi mungkin menambahkan padding, menyusun ulang urutan informasi, atau menggunakan teknik khusus untuk memastikan model memproses data dengan efisiensi maksimal tanpa membuang ruang token yang berharga.
Summary
Strategi optimasi dalam rekayasa prompt yang bertujuan memaksimalkan utilitas atau kualitas output dari jumlah token tertentu dalam model bahasa besar.
Key Concepts
- Rekayasa Prompt
- Jendela Konteks
- Kepadatan Semantik
- Optimasi
Use Cases
- Memaksimalkan kemampuan penalaran LLM
- Pengurangan biaya penggunaan API
- Menguji batas model