Jak funguje sebepozornost?
Jak funguje sebepozornost?

Video: Jak funguje sebepozornost?

Video: Jak funguje sebepozornost?
Video: Как придать Объём волосам Пошагово дома | 4 способа Укладки волос! Как научиться укладывать волосы! 2024, Listopad
Anonim

Laicky řečeno, já - Pozornost mechanismus umožňuje vstupům vzájemně interagovat („ já “) a zjistěte, kdo by měl platit více Pozornost do ( Pozornost “). Výstupy jsou agregáty těchto interakcí a Pozornost skóre.

Také, co je sebepozornost?

Já - Pozornost , někdy nazývané intra- Pozornost je Pozornost mechanismus vztahující různé polohy jedné sekvence za účelem výpočtu reprezentace sekvence.

Co je to sebepozornost v hlubokém učení? Nejprve si definujme, co „ já - Pozornost je. Cheng a kol. ve svém článku nazvaném „Sítě pro dlouhodobou krátkodobou paměť Stroj Čtení“, definováno já - Pozornost jako mechanismus spojování různých pozic jedné sekvence nebo věty za účelem získání živější reprezentace.

Co je v tomto ohledu mechanismus pozornosti?

Mechanismus pozornosti umožňuje dekodéru věnovat se různým částem zdrojové věty v každém kroku generování výstupu. Namísto kódování vstupní sekvence do jednoho pevného kontextového vektoru necháme model naučit se generovat kontextový vektor pro každý výstupní časový krok.

Co je model založený na pozornosti?

Pozornost - založené modely patří do třídy modely běžně nazývané sekvence-k-sekvenci modely . Cílem těchto modely , jak název napovídá, vytváří výstupní sekvenci zadanou vstupní sekvenci, která má obecně různé délky.

Doporučuje: