16 votos

¿Un MCMC que cumpla con el equilibrio detallado produce una distribución estacionaria?

Supongo que entiendo la ecuación de la condición de equilibrio detallado, que establece que para la probabilidad de transición $q$ y la distribución estacionaria $\pi$ una cadena de Markov satisface el equilibrio detallado si $$q(x|y)\pi(y)=q(y|x)\pi(x),$$

esto tiene más sentido para mí si lo replanteo como:

$$\frac{q(x|y)}{q(y|x)}= \frac{\pi(x)}{\pi(y)}. $$

Básicamente, la probabilidad de transición del estado $x$ al estado $y$ debe ser proporcional a la relación de sus densidades de probabilidad.

13voto

Maz Puntos 1

No es cierto que el cumplimiento del equilibrio detallado por parte de MCMC siempre produzca la distribución estacionaria. También es necesario que el proceso sea ergódico . Veamos por qué:

Considere $x$ para ser un estado del conjunto de todos los estados posibles, e identificarlo por el índice $i$ . En un proceso de Markov, una distribución $p_t(i)$ evoluciona en función de

$$p_t(i) = \sum_{j} \Omega_{j \rightarrow i} p_{t-1}(j)$$

donde $\Omega_{j \rightarrow i}$ es la matriz que denota las probabilidades de transición (tu $q(x|y)$ ).

Por lo tanto, tenemos que

$$p_t(i) = \sum_{j} (\Omega_{j \rightarrow i})^t p_{0}(j)$$

El hecho de que $\Omega_{j \rightarrow i}$ es una probabilidad de transición implica que sus valores propios deben pertenecer al intervalo [0,1].

Para garantizar que cualquier distribución inicial $p_{0}(j)$ converge a la asintótica, hay que asegurarse de que

  • 1 Sólo hay un valor propio de $\Omega$ con valor 1 y tiene un único vector propio no nulo.

Para garantizar que $\pi$ es la distribución asintótica, hay que asegurarse de que

  • 2 El vector propio asociado al valor propio 1 es $\pi$ .

La ergodicidad implica 1., el equilibrio detallado implica 2., y por eso ambos forman una condición necesaria y suficiente de la convergencia asintótica.

Por qué el equilibrio detallado implica 2:

A partir de

$$p(i)\Omega_{ij} = \Omega_{ji} p(j)$$

y sumando sobre $j$ en ambos lados, obtenemos

$$p(i) = \sum_{j}\Omega_{ji} p(j)$$

porque $\sum_{j} \Omega_{ij} = 1$ ya que siempre se transita hacia algún lugar.

La ecuación anterior es la definición del valor propio 1, (más fácil de ver si se escribe en forma vectorial:)

$$ 1.v = \Omega\cdot v$$

0 votos

El OP no pregunta si es único o no, él pregunta cómo MCMC con el equilibrio detallado es suficiente para producir una densidad de probabilidad invariante.

2 votos

La primera frase de esta respuesta es "No es cierto que el MCMC que cumple con el equilibrio detallado produzca siempre la distribución estacionaria". Así que no, el equilibrio detallado no es suficiente para producir una densidad invariante... ¿Cómo es que eso no responde a la pregunta?

0voto

Peter Puntos 21

Creo que sí, porque para un MC irreducible si se satisface el equilibrio detallado entonces tiene una distribución estacionaria única, pero para que sea independiente de la distribución inicial también tiene que ser aperiódica.

En el caso de MCMC se parte de un punto de datos y se propone un nuevo punto. Podemos movernos o no al punto propuesto, es decir, tenemos un bucle propio que hace que un MC irreducible sea aperiódico.

Ahora, en virtud de satisfacer la DB, también tiene estados recurrentes positivos, es decir, el tiempo medio de retorno a los estados es finito. Por lo tanto, la cadena que construimos en MCMC es irreducible, aperiódica y recurrente positiva, lo que significa que es una cadena ergódica.

Sabemos que para una cadena ergódica irreducible existe una distribución estacionaria que es única e independiente de la distribución inicial.

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X