Me encontré este artículo donde dice que en el muestreo de Gibbs cada muestra es aceptada. Estoy un poco confundido. ¿Cómo es que si cada una de las muestras aceptó converge a una distribución estacionaria.
En general Algoritmo de Metropolis aceptamos como min(1, p(x*)/p(x)), donde x* es el punto de la muestra. Supongo que x* nos apunta a una posición donde la densidad es alta, por lo que nos estamos moviendo a la distribución de destino. Por lo tanto supongo que se mueve a la distribución de destino después de una quemadura en el período.
Sin embargo, en el muestreo de Gibbs aceptamos todo, así que aunque nos puede llevar a un lugar diferente, ¿cómo podemos decir que converge a la estacionario/de distribución de destino
Supongamos que tenemos una distribución de $p(\theta) = c(\theta)/Z$. No podemos calcular la a a la Z. En el algoritmo de metropolis utilizamos el término $c(\theta^{new})/c(\theta^{old})$ a incorporar la distribución de $c(\theta)$ además de la normalización de la constante Z cancela. Así que está bien
Pero en el muestreo de Gibbs donde estamos utilizando la distribución de $c(\theta)$
Por ejemplo en el papel http://books.nips.cc/papers/files/nips25/NIPS2012_0921.pdf dada su
así que no tenemos el condicional exacta de la distribución de la muestra de, simplemente, tenemos algo que es directamente proporcional a la distribución condicional