Vícenásobná optimalizace úloh

term_id: multitask_optimization

Category: training_techniques

Definition

Vícenásobná optimalizace úloh zahrnuje trénování jednoho modelu pro zvládnutí několika odlišných, ale souvisejících úloh najednou. Sdílením intermediárních reprezentací mezi úlohami může model naučit obecnější vlastnosti.

Summary

Tréninková strategie, při které je model optimalizován pro současné plnění více souvisejících úloh.

Key Concepts

  • Sdílená reprezentace
  • Hlavy specifické pro úlohu
  • Vyvažování gradientů
  • Přenosové učení

Use Cases

  • Společná detekce objektů a segmentace
  • Vícenásobná klasifikace štítků
  • Rozpoznávání řeči a jazykové modelování