Učení v kontextu (In-Context Learning)

term_id: in_context_learning

Category: application_paradigms

Definition

Učení v kontextu (ICL) umožňuje velkým jazykovým modelům přizpůsobit se novým úkolům bez aktualizace jejich vah. Poskytováním párů vstup-výstup přímo v kontextu zadání model odvodí vzorec a dokáže na základě něj reagovat, aniž by došlo k jakékoli změně parametrů modelu.

Summary

Technika, při které se modely učí plnit úkoly pozorováním příkladů poskytnutých v zadání.

Key Concepts

  • Učení s několika příklady (Few-Shot Learning)
  • Nulový zásah (Zero-Shot)
  • Návrh zadání (Prompt Design)
  • Adaptace bez změn vah

Use Cases

  • Rychlé testování schopností modelu na nových datech
  • Dynamické přepínání úkolů v konverzačních agentech
  • Prototypování AI aplikací bez nutnosti opětovného trénování

Code Example

1
2
prompt = "Translate English to French:\nEnglish: Hello\nFrench: Bonjour\nEnglish: Cat\nFrench:"
response = model.generate(prompt)