HAL will be down for maintenance from Friday, June 10 at 4pm through Monday, June 13 at 9am. More information
Skip to Main content Skip to Navigation
Conference papers

Penalized regression with a combination of the L1 norm and the correlation based penalty.

Résumé : La sélection de variables peut etre difficile, en particulier dans les situations où un grand nombre de variables explicatives est disponible, avec la présence possible de corrélations élevées comme dans le cas des données d'expression génétique. Dans cette note, nous proposons une nouvelle méthode de régression linéaire pénalisée, appelée elastic corr-net, pour simultanément estimer les paramètres inconnus et sélectionner les variables importantes. De plus, elle encourage un effet de groupe:les variables fortement corrélées ont tendance à etre toutes incluses ou toutes exclues du modèle. La méthode est fondée sur les moindres carrés pénalisés avec une pénalité qui, comme la pénalité $L_1$, rétrécit certains coefficients exactement vers zéro. En outre, cette pénalité contient un terme qui lie explicitement la force de pénalisation à la corrélation entre les variables explicatives. Pour montrer les avantages de notre approche par rapport aux méthodes les plus concurrentes, une étude sur des données simulées est réalisée en moyenne et grande dimension. Enfin, nous appliquons la méthodologie à un exemple de données réelles. Si $p>> n,$ notre méthode reste compétitive et elle permet aussi de sélectionner plus que $n$ variables.
Complete list of metadata

Cited literature [5 references]  Display  Hide  Download

https://hal.inria.fr/inria-00386621
Contributor : Conférence Jds2009 Connect in order to contact the contributor
Submitted on : Friday, May 22, 2009 - 9:07:31 AM
Last modification on : Wednesday, April 20, 2022 - 3:37:35 AM
Long-term archiving on: : Thursday, June 30, 2011 - 11:32:35 AM

File

p67.pdf
Files produced by the author(s)

Identifiers

  • HAL Id : inria-00386621, version 1

Citation

Mohammed El Anbari, Abdallah Mkhadri. Penalized regression with a combination of the L1 norm and the correlation based penalty.. 41èmes Journées de Statistique, SFdS, Bordeaux, 2009, Bordeaux, France, France. ⟨inria-00386621⟩

Share

Metrics

Record views

85

Files downloads

298