Előképzett

term_id: pretrained

Category: training_techniques

Definition

Az ’előképzett’ kifejezés egy neurális hálózati modellt ír le, amely átesett egy kezdeti képzési folyamaton egy hatalmas, gyakran általános célú adathalmon, mint például az ImageNet vagy a Wikipedia. Ez a folyamat lehetővé teszi a modell számára, hogy általános jellemzőket és nyelvtani struktúrákat sajátítson el, amelyeket később könnyen adaptálni lehet kisebb, specifikusabb feladatkészletekre.

Summary

Olyan modellre utal, amelyet már betanítottak egy nagy adathalmazon, mielőtt specifikus feladatra alkalmaztak volna.

Key Concepts

  • Átviteli tanulás
  • Jellemzők kinyerése
  • Alapmodell
  • Finomhangolás

Use Cases

  • BERT vagy GPT modellek inicializálása
  • ResNet használata képosztályozásra
  • Kiindulópont domain-specifikus NLP feladatokhoz