Número de muestras de la cadena de Markov Monte Carlo

Question

Hay una lote Existe una gran cantidad de literatura sobre los diagnósticos de convergencia de las cadenas de Markov (MCMC), incluyendo el diagnóstico más popular de Gelman-Rubin. Sin embargo, todos ellos evalúan la convergencia de la cadena de Markov y, por tanto, abordan la cuestión del agotamiento.

Una vez que he averiguado el burn-in, ¿cómo debo decidir cuántas muestras MCMC son suficientes para continuar con mi proceso de estimación? La mayoría de los artículos que utilizan MCMC mencionan que han ejecutado la cadena de Markov durante unos $n$ iteraciones, pero no dicen nada sobre por qué/cómo han elegido ese número, $n$ .

Además, un tamaño de muestra deseado no puede ser la respuesta para todos los muestreadores, ya que la correlación en la cadena de Markov varía mucho de un problema a otro. Entonces, ¿existe una regla para averiguar el número de muestras necesarias?

Answer 1

El número de muestras (después del burn-in) que necesitas depende de lo que intentes hacer con esas muestras y de cómo se mezcle tu cadena.

Normalmente nos interesan las expectativas posteriores (o cuantiles) y aproximamos estas expectativas mediante las medias de nuestras muestras posteriores, es decir $$ E[h(\theta)|y] \approx \frac{1}{M} \sum_{m=1}^M h(\theta^{(m)}) = E_M $$ donde $\theta^{(m)}$ son muestras de su MCMC. Por la Ley de los Grandes Números la estimación MCMC converge casi con seguridad a la expectativa deseada.

Pero para abordar la cuestión de cuántas muestras necesitamos para estar seguros de que nos acercamos lo suficiente a la expectativa deseada, necesitamos un resultado del Teorema Central del Límite (CLT), es decir, algo como $$ \frac{E_M -E[h(\theta)|y]}{\sqrt{M}} \stackrel{d}{\to} N(0,v_h^2) $$ Con este CLT podríamos entonces hacer afirmaciones probabilísticas como "hay un 95% de probabilidad de que $E[h(\theta)|y]$ está entre $E_M \pm 1.96 v_h$ ." Los dos temas aquí son

1. ¿Se aplica el CLT?
2. ¿Cómo podemos estimar $v_h^2$ .

Tenemos algunos resultados sobre cuándo se aplica el CLT, por ejemplo, cadenas de estado discete, cadenas reversibles, cadenas geométricamente ergódicas. Véase Robert y Casella (2ª ed) sección 6.7.2 para algunos resultados en esta dirección. Desgraciadamente, la gran mayoría de las cadenas de Markov que existen no tienen ninguna prueba de que la CLT exista.

Si existe un CLT, todavía tenemos que estimar la varianza en el CLT. Una forma de estimar esta varianza consiste en dividir la cadena en bloques, véase Gong y Flegal y sus referencias. El método se ha implementado en el paquete R mcmcse con las funciones mcse y mcse.q para estimar la varianza de las expectativas y los cuantiles.

Answer 2

John Kruschke en Análisis bayesiano de datos recomienda que para los parámetros de interés, las cadenas MCMC se ejecuten hasta que su tamaño de muestra efectivo sea de al menos 10.000. Aunque no se presentan simulaciones, creo que su justificación es que un ESS > 10.000 garantiza estimaciones numéricamente estables. Sin embargo, he visto que Andrew Gelman y otros desarrolladores de Stan recomiendan menos (por ejemplo, 2.000 - 3.000 está bien; desgraciadamente, no hay un enlace exacto, pero véase las discusiones en el grupo de usuarios de Stan en Google). Además, en el caso de los modelos complejos, ejecutar cadenas lo suficientemente largas para un ESS > 10.000 puede ser arduo.

Answer 3

Este es uno de los grandes inconvenientes de las simulaciones MCMC, ya que no existe una estimación general y apriorística del número de muestras. Creo que una buena bibliografía al respecto es "Some things we've learned (about MCMC)", de Persi Diaconis, que aborda muchas sutilezas de las simulaciones MCMC que podrían indicar que no hay una respuesta fácil a esta pregunta.

En general, para hacer buenas estimaciones sobre la duración de la cadena es necesario conocer bien el tiempo de mezcla de la cadena de Markov, que depende en gran medida de las propiedades del gráfico subyacente. Existen muchos métodos "sin quemado" para acotar el tiempo de mezcla desde arriba, pero todos estos métodos tienen en común que necesitan una comprensión más profunda de la cadena de Markov subyacente y las constantes implicadas suelen ser difíciles de calcular. Véase, por ejemplo, "Conductance and Rapidly Mixing Markov Chains", de King, "Path Coupling: a Technique for Proving Rapid Mixing in Markov Chains", de Bubley et al., o "Nash inequalities for finite Markov chains", de Diaconis et al.