Inégalités d’oracle et mélanges

Lucie Montuelle 1, 2
2 SELECT - Model selection in statistical learning
Inria Saclay - Ile de France, LMO - Laboratoire de Mathématiques d'Orsay, CNRS - Centre National de la Recherche Scientifique : UMR
Résumé : Ce manuscrit se concentre sur deux problèmes d’estimation de fonction. Pour chacun, une garantie non asymptotique des performances de l’estimateur proposé est fournie par une inégalité d’oracle. Pour l’estimation de densité conditionnelle, des mélanges de régressions gaussiennes à poids exponentiels dépendant de la covariable sont utilisés. Le principe de sélection de modèle par maximum de vraisemblance pénalisé est appliqué et une condition sur la pénalité est établie. Celle-ci est satisfaite pour une pénalité proportionnelle à la dimension du modèle. Cette procédure s’accompagne d’un algorithme mêlant EM et algorithme de Newton, éprouvé sur données synthétiques et réelles. Dans le cadre de la régression à bruit sous-gaussien, l’agrégation à poids exponentiels d’estimateurs linéaires permet d’obtenir une inégalité d’oracle en déviation, au moyen de techniques PAC-bayésiennes. Le principal avantage de l’estimateur proposé est d’être aisément calculable. De plus, la prise en compte de la norme infinie de la fonction de régression permet d’établir un continuum entre inégalité exacte et inexacte.
Type de document :
Thèse
Statistiques [math.ST]. Université Paris-Sud, 2014. Français
Liste complète des métadonnées

Littérature citée [138 références]  Voir  Masquer  Télécharger

https://hal.inria.fr/tel-01109103
Contributeur : Lucie Montuelle <>
Soumis le : samedi 24 janvier 2015 - 15:51:46
Dernière modification le : jeudi 11 janvier 2018 - 06:22:14
Document(s) archivé(s) le : vendredi 11 septembre 2015 - 09:06:11

Identifiants

  • HAL Id : tel-01109103, version 1

Collections

Citation

Lucie Montuelle. Inégalités d’oracle et mélanges. Statistiques [math.ST]. Université Paris-Sud, 2014. Français. 〈tel-01109103〉

Partager

Métriques

Consultations de la notice

263

Téléchargements de fichiers

276