Rete elastica VARX

La rete elastica è un metodo di regressione che combina linearmente i metodi lazo e cresta (vedi sotto). Fondamentalmente, il metodo della rete elastica trova i coefficienti di regressione della cresta e quindi esegue una contrazione dei coefficienti a lazo.

Il modello VARX Elastic Net è un'estensione del modello VARX Lasso che invece di una normale penalità Lazo utilizza un Rete elastica penalità. La penalità Lasso è definita come

dove la penalità dipende dalla somma dei valori assoluti dei coefficienti. Nei set di dati ad alta dimensione con variabili correlate, Lasso tende a selezionare una variabile ignorando le altre ad essa correlate. In relazione a Lasso abbiamo Regressione della cresta che utilizza la sanzione simile

dove i valori assoluti sono sostituiti dal quadrato dei coefficienti. Ciò ha l'effetto di ridurre i coefficienti verso lo zero, proprio come con una penalità Lazo. La regressione di Ridge mitiga la multicollinearità riducendo i coefficienti verso lo zero senza impostarli esattamente a zero. Sebbene riguardi la multicollinearità, non fornisce intrinsecamente una selezione delle variabili.

Mettendo insieme queste due penalità, otteniamo la penalità Elastic Net come

dove il parametro αα viene utilizzato per determinare la combinazione tra regressione Lasso e Ridge. Questa combinazione consente a Elastic Net di gestire la multicollinearità come Ridge e di incoraggiare la scarsità come Lasso. Trova un equilibrio tra la selezione delle variabili e la conservazione dei predittori correlati.

In sintesi, Elastic Net è preferibile alla regressione Lasso o Ridge quando si tratta di set di dati ad alta dimensione contenenti variabili correlate. Trova un equilibrio tra selezione delle variabili e mitigazione della multicollinearità, rendendolo una scelta versatile per scenari in cui entrambi i problemi sono rilevanti. Tuttavia, la scelta dipende in ultima analisi dalle caratteristiche specifiche dei dati.

Explore more models

Within this category

More categories