Dostosowanie do Instrukcji
term_id: instruction_tuning
Category: training_techniques
Definition
Proces ten zamyka lukę między ogólnym wstępnym trenowaniem a wydajnością w konkretnych zadaniach. Poprzez ekspozycję modelu na zróżnicowane pary instrukcja-odpowiedź, uczy się on uogólniać na niewidziane wcześniej zadania bez…
Summary
Dostosowanie do instrukcji to technika dostrajania, w której wstępnie wytrenowany model językowy jest trenowany na zbiorze danych zawierającym instrukcje i odpowiadające im odpowiedzi, aby poprawić zdolność wykonywania zadań.
Key Concepts
- Dostrajanie (Fine-tuning)
- Uczenie Nadzorowane
- Uogólnianie Zero-shot
- Zgodność z Człowiekiem (Human Alignment)
Use Cases
- Budowanie chatbotów
- Poprawa dokładności generowania kodu
- Uzgodnienie modeli z wytycznymi bezpieczeństwa