¿A qué converge la distribución de muestras de un método MCMC sin muestras repetidas?

Question

Supongamos que tengo una distribución absolutamente continua con densidad $f(x)$ y utilizo un muestreador mcmc que tiene paso de aceptación/rechazo para muestrear de esta distribución. En las muestras finales, hay algunos puntos singulares (es decir, muestras superpuestas). ¿La distribución de las muestras sin estos puntos singulares converge a algo significativo?

Answer 1

Hemos abordado este problema en nuestro Documento de Rao-Blackwellización de vainilla 2011 . La distribución límite de las simulaciones únicas en la secuencia Metrópolis-Hastings está asociada a la densidad $$\tilde\pi(x)\propto\pi(x)\bar{\alpha}(x)\quad\text{where}\quad\bar{\alpha}(x)=\int_{\mathcal X}\alpha(x,y)q(y|x)\,\text{d}y$$ si

• $\pi(\cdot)$ es el objetivo original del algoritmo Metropolis-Hastings
• $\alpha(\cdot,\cdot)$ es la probabilidad de aceptación de Metropolis-Hastings
• $q(\cdot|\cdot)$ es la propuesta de Metropolis-Hastings o el núcleo

(En el extracto anterior del documento, $\mathfrak z_i$ denota el $i$ valor aceptado en la cadena MCMC y $\mathfrak n_i$ el número de veces que se repite en la cadena MCMC).