Convergence of adaptive mixtures of importance sampling schemes

R. Douc; A. Guillin; J. -M. Marin; C. P. Robert

hal-00432955, version 1

Convergence of adaptive mixtures of importance sampling schemes

R. Douc ¹, A. Guillin ², J. -M. Marin ^3, 4, C. P. Robert () ^3, 5

Statistics and Computing 18, (2008) 447-459

Résumé : In the design of efficient simulation algorithms, one is often beset with a poor choice of proposal distributions. Although the performance of a given simulation kernel can clarify a posteriori how adequate this kernel is for the problem at hand, a permanent on-line modification of kernels causes concerns about the validity of the resulting algorithm. While the issue is most often intractable for MCMC algorithms, the equivalent version for importance sampling algorithms can be validated quite precisely. We derive sufficient convergence conditions for adaptive mixtures of population Monte Carlo algorithms and show that Rao--Blackwellized versions asymptotically achieve an optimum in terms of a Kullback divergence criterion, while more rudimentary versions do not benefit from repeated updating.

1 : Communications, Images et Traitement de l'Information (CITI)
Institut Mines-Télécom – Télécom SudParis
2 : Laboratoire de Mathématiques
CNRS : UMR6620 – Université Blaise Pascal - Clermont-Ferrand II
3 : Centre de Recherche en Économie et Statistique (CREST)
INSEE – École Nationale de la Statistique et de l'Administration Économique
4 : Département de Mathématiques [Montpellier]
Université Montpellier II - Sciences et techniques
5 : CEntre de REcherches en MAthématiques de la DEcision (CEREMADE)
CNRS : UMR7534 – Université Paris IX - Paris Dauphine

hal-00432955, version 1
http://hal.archives-ouvertes.fr/hal-00432955
oai:hal.archives-ouvertes.fr:hal-00432955
Contributeur : Christian Robert <>
Soumis le : Mardi 17 Novembre 2009, 16:47:44
Dernière modification le : Mardi 26 Janvier 2010, 15:15:49

Voir la fiche détaillée

Documents associés

arXiv : 0708.0711

Exporter

Bibtex EndNote TEI RefWorks

<?xml version="1.0" encoding="UTF-8"?>
<listBibl xmlns="http://www.tei-c.org/ns/1.0" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML">
<listBibl type="article"><head>Articles dans des revues avec comité de lecture</head>
<biblStruct type="article" xml:id="hal-00432955"><analytic>
<author><persName><forename>R.</forename><surname>Douc</surname></persName>
<affiliation>
<orgName type="laboratory">CITI</orgName>
<orgName type="team">Communications, Images et Traitement de l'Information</orgName>
<country>FR</country>
<orgName type="institution">Institut Mines-Télécom</orgName>
<orgName type="institution">Télécom SudParis</orgName>
</affiliation>
</author>
<author><persName><forename>A.</forename><surname>Guillin</surname></persName>
<affiliation>
<orgName type="team">Laboratoire de Mathématiques</orgName>
<country>FR</country>
<orgName type="institution">CNRS : UMR6620</orgName>
<orgName type="institution">Université Blaise Pascal - Clermont-Ferrand II</orgName>
</affiliation>
</author>
<author><persName><forename>J. -M.</forename><surname>Marin</surname></persName>
<affiliation>
<orgName type="laboratory">CREST</orgName>
<orgName type="team">Centre de Recherche en Économie et Statistique</orgName>
<country>FR</country>
<orgName type="institution">INSEE</orgName>
<orgName type="institution">École Nationale de la Statistique et de l'Administration Économique</orgName>
</affiliation>
<affiliation>
<orgName type="team">Département de Mathématiques [Montpellier]</orgName>
<country>FR</country>
<orgName type="institution">Université Montpellier II - Sciences et techniques</orgName>
</affiliation>
</author>
<author><persName><forename>C. P.</forename><surname>Robert</surname></persName>
<affiliation>
<orgName type="laboratory">CREST</orgName>
<orgName type="team">Centre de Recherche en Économie et Statistique</orgName>
<country>FR</country>
<orgName type="institution">INSEE</orgName>
<orgName type="institution">École Nationale de la Statistique et de l'Administration Économique</orgName>
</affiliation>
<affiliation>
<orgName type="laboratory">CEREMADE</orgName>
<orgName type="team">CEntre de REcherches en MAthématiques de la DEcision</orgName>
<country>FR</country>
<orgName type="institution">CNRS : UMR7534</orgName>
<orgName type="institution">Université Paris IX - Paris Dauphine</orgName>
</affiliation>
</author>
<title type="main" level="a">Convergence of adaptive mixtures of importance sampling schemes</title></analytic><monogr><title level="j" type="main">Statistics and Computing</title><imprint><biblScope type="publicationDate">2008-00-00</biblScope><biblScope type="vol">18,</biblScope><biblScope type="pp">447-459</biblScope></imprint></monogr><idno type="HALid">http://hal.archives-ouvertes.fr/hal-00432955</idno></biblStruct>
</listBibl>
</listBibl>