UPRES-A CNRS 6085Publication 9907
Auteurs : 
CASELLA George, MENGERSEN Kerrie L. , ROBERT Christian P. and TITTERINGTON Mike

Titre : Perfect Slice Samplers for Mixtures of Distributions

Année : 1999

Référence : Soumis

Mots-clefs : Echantillonnnage parfait, algorithmes MCMC, principe de dualité, méthodes d'enveloppe.

Key-words : Perfect sampling, MCMC algorithm, Duality Principle, enveloppe method, discretization.

Classification AMS : 62F15, 65C05, 65C20, 60G40.

Résumé :
Cet article construit une méthode de simulation exacte pour la loi a posteriori d'un mélange de distributions, dans l'esprit de Mira et Roberts (1999). Nous étendons ainsi les résultats de Hobert, Robert et Titterington (1999) qui ne couvraient que le cas où les poids seuls sont inconnus. La nouvelle technique repose sur une Rao-Blackwellisation qui met en oeuvre le Principe de Dualité de Diebolt et Robert (1994), utilisant de plus une méthode d'enveloppe qui étend le support fini des variables latentes en un support continu plus simple à simuler par tranches. Nous illustrons cette méthode de simulation dans les cadres normaux et exponentiels et montrons que les temps de coalescence n'augmentent pas dramatiquement en fonction de la taille de l'échantillon, ni du nombre de composantes. Nous présentons ainsi une résolution pratique du problème de simulation iid dans les mélanges et démontrons que l'échantillonnage exact ne se limite pas à des exemples académiques mais est aussi capable de traiter des modèles réalistes.
Abstract :
We propose a perfect sampler for mixtures of distributions, in the spirit of Mira and Roberts (1999), building on Hobert, Robert and Titterington (1999). The method relies on a marginalisation akin to Rao-Blackwellisation which illustrates the Duality Principle of Diebolt and Robert (1994) and utilises an envelope argument which embeds the finite support distribution on the latent variables within a continuous support distribution, easier to simulate by slice sampling. We also provide a number of illustrations in the cases of normal and exponential mixtures which show that the technique does not suffer from severe slow-down when the number of observations or the number of components increases. We thus obtain a general iid sampling method for mixture posterior distributions and illustrate convincingly that perfect sampling can be achieved for realistic statistical models and not only for toy problems.

Pour obtenir le fichier pub9907.ps.gz