Apprentissage par renforcement rapide pour des grands ensembles d'actions en utilisant des codes correcteurs d'erreur - Inria - Institut national de recherche en sciences et technologies du numérique Accéder directement au contenu
Communication Dans Un Congrès Année : 2012

Apprentissage par renforcement rapide pour des grands ensembles d'actions en utilisant des codes correcteurs d'erreur

Philippe Preux

Résumé

L'utilisation de l'apprentissage par renforcement (AR) pour la résolution de problèmes réalistes se heurte à des questions de passage à l'échelle. La plupart des algorithmes d'AR sont incapables de gérer des problèmes avec des centaines, voire des milliers d'actions, ce qui en limite l'application dans la pratique. Nous considérons le problème d'AR dans le cadre de l'apprentissage supervisé où la politique optimale est obtenue sous la forme d'un classeur multi-classes, l'ensemble des classes correspondant à l'ensemble des actions du problème. Nous introduisons l'utilisation de codes correcteurs d'erreurs (CCE) dans ce contexte et proposons deux nouvelles méthodes pour réduire la complexité de l'apprentissage en utilisant des approches à base de rollouts. La première de ces méthodes consiste à introduire un classeur basé sur des CCE comme classeur multi-classes, ce qui réduit la complexité de l'apprentissage de O(A^2 ) a O(A log(A)). Ensuite, nous proposons une seconde méthode qui met à profit le dictionnaire de codage du CCE pour découper le PDM initial en O(log(A)) PDM à 2 actions. Cette seconde méthode réduit la complexité de l'apprentissage de O(A^2) a O(log(A)) ce qui permet de traiter en des temps très raisonnables des problèmes avec un grand nombre d'actions. Nous terminons avec une démonstration expérimentale de l'intérêt de notre approche.
Fichier principal
Vignette du fichier
2.pdf (743.97 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-00736322 , version 1 (28-09-2012)

Identifiants

  • HAL Id : hal-00736322 , version 1

Citer

Gabriel Dulac-Arnold, Ludovic Denoyer, Philippe Preux, Patrick Gallinari. Apprentissage par renforcement rapide pour des grands ensembles d'actions en utilisant des codes correcteurs d'erreur. Journées Francophones sur la planification, la décision et l'apprentissage pour le contrôle des systèmes - JFPDA 2012, May 2012, Villers-lès-Nancy, France. 12 p. ⟨hal-00736322⟩
286 Consultations
136 Téléchargements

Partager

Gmail Facebook X LinkedIn More