Co je to regularizovaná lineární regrese?
Co je to regularizovaná lineární regrese?
Anonim

Regulace . Toto je forma regrese , který omezuje/reguluje nebo zmenšuje odhady koeficientů směrem k nule. Jinými slovy, tato technika odrazuje od učení složitějšího nebo flexibilnějšího Modelka , abyste se vyhnuli riziku přemontování. Jednoduchý vztah pro lineární regrese vypadá takto.

Co je tedy lambda v lineární regresi?

Když máme vysokou školu lineární polynom, který se používá k uložení množiny bodů v a lineární regrese nastavení, abychom zabránili nadměrnému vybavení, používáme regularizaci a zahrnujeme a lambda parametr ve funkci nákladů. Tento lambda se pak použije k aktualizaci parametrů theta v algoritmu sestupu gradientu.

Za druhé, jaký je účel regularizace? Regulace je technika používaná k ladění funkce přidáním dodatečného trestu do chyby funkce . Dodatečný termín řídí nadměrně kolísající funkce tak, aby koeficienty nenabývaly extrémních hodnot.

Proč tímto způsobem potřebujeme v regresi regularizovat?

Cílem regulace jinými slovy je vyhnout se nadměrnému vybavení my se snaží vyhnout modelům, které se extrémně dobře hodí k trénovacím datům (data použitá k sestavení modelu), ale špatně se hodí k testovacím datům (data používaná k testování, jak dobrý je model). Toto je známé jako overfitting.

Co znamená regularizace?

V matematice, statistice a informatice, zejména ve strojovém učení a inverzních problémech, regularizace je proces přidávání informací, aby se vyřešil špatně položený problém nebo aby se zabránilo nadměrnému vybavení. Regulace platí pro objektivní funkce v špatně položených optimalizačních problémech.

Doporučuje: