Huomio mekanisme
term_id: attention_mechanism
Category: basic_concepts
Definition
Huomiomekanismi mahdollistaa mallille painottaa eri elementtien merkitystä syötesekvenssissä dynaamisesti. Sen sijaan, että se kohtelee kaikkia syötetietoja tasapuolisesti, se antaa niille vaihtelevia tasoja signifi
Summary
Tekniikka, joka mahdollistaa neuronaaliverkkojen keskittyä syötedatan tiettyihin osiin tuotettaessa tuloksia.
Key Concepts
- Itsehuomio
- Kontekstimatriisit
- Painotettu summa
- Muunninarkkitehtuuri
Use Cases
- Konekäännösmallit
- Kuvatekstien generointi
- Tekstin tiivistäminen