Utilizando todas las propuestas de Metropolis-Hastings para estimar una integral

Question

Supongamos que ejecutamos el Metropolis-Hastings con la distribución objetivo $\mu$ para calcular la integral $\int f\:{\rm d}\mu$ . Normalmente, utilizamos el estimador $$A_n:=\frac1n\sum_{i=0}^{n-1}f(X_i).$$ Sin embargo, en lugar de sumar los $f(X_i)$ He visto la siguiente modificación: Que $(Y_n)_n$ denotan la secuencia de propuestas. Por definición, $Y_i$ se acepta y $X_i$ se ajusta a $Y_i$ con probabilidad $\alpha(X_{i-1},X_i)$ . En lugar de añadir $f(X_i)$ a la suma, podríamos añadir $(1-\alpha(X_{i-1},Y_i))f(X_{i-1})+\alpha(X_{i-1},Y_i)f(Y_i)$ .

No he podido encontrar ningún libro de lectura o documento que considere esta modificación o un estimador modificado de forma similar (excepto este documento https://www.semanticscholar.org/paper/Using-all-Metropolis-Hastings-proposals-to-estimate-Tjelmeland/d66b766d44e6b50732f30e97cec5aff3312bc28f ). ¿Alguien tiene una referencia a mano?

Answer 1

El reciclaje de los valores propuestos en un algoritmo Metrópolis-Hastings se denomina Rao-Blackwellización . Por ejemplo, hicimos una propuesta de este tipo en

• Casella y Robert (1996) Rao-Blackwellización de los planes de muestreo .
• Douc y Robert (2013) Una vainilla Rao-Blackwellización de los algoritmos Metropolis-Hastings

Tenga en cuenta que la ponderación que propone en la pregunta: $$[1-\alpha(x_i,y_{i+1})]h(x_i)+\alpha(x_i,y_{i+1})h(y_i)$$ no es óptima en el sentido de que no se garantiza la reducción de la varianza. Incluso el que produzco [arriba] en una de mis diapositivas del curso MCMC no siempre reduce la varianza debido a la correlación entre los diferentes términos. (Sólo el caso de aumento de datos conduce a una reducción segura de la varianza, cf. este fantástico artículo de Liu, Wong y Long, 1994 . Y Vainilla Rao-Blackwellización .)

Answer 2

Esto se parece al muestreo de importancia "local". En la literatura, la construcción de estimadores de este tipo parece denominarse "waste-recyling", y una búsqueda rápida arroja unos cuantos artículos:

• Esta tesis de Murray
• Documento PNAS de Freknel aquí
• El reciclaje de residuos ayuda a Delmas y Jourdain aquí
• Su uso en el MCMC paralelo aquí

Una búsqueda más exhaustiva con la palabra clave "waste-recyling" y la búsqueda en las referencias anteriores podría proporcionarle más documentos.