MCMC para manejar problemas de probabilidad plana

Question

Tengo una bastante plana probabilidad líder de Metropolis-Hastings sampler para moverse a través del espacio de parámetros muy irregular, es decir, no hay convergencia se puede lograr, no importa lo que los parámetros de la propuesta de distribución (en mi caso es de gauss). No es de alta complejidad en mi modelo - a sólo 2 parámetros, pero parece que el MH no puede manejar esta tarea. Así que, ¿hay algún truco en torno a este problema? Hay un sampler que no produciría las cadenas de Markov se mueve muy lejos a la parte posterior de la cola?

Actualización del problema:
Voy a tratar de reformular mi pregunta dar más detalles. Primero de todo voy a describir el modelo.
Tengo un modelo gráfico con dos nodos. Cada nodo está regida por una auto-Poisson (modelo de Besag, 1974) como sigue: $$p\left ( X_{j} |X_{k}=x_{k},\forall k\neq j,\Theta \right )\sim Poisson\left ( e^{\theta _{j}+\sum _{j\neq k}\theta _{kj}x_{k}} \right )$$ O, ya que hay sólo dos nodos y asumiendo la igualdad global de las intensidades: $$p\left ( X_{1} |X_{2}=x_{2},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{2}} \right )$$ $$p\left ( X_{2} |X_{1}=x_{1},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{1}} \right )$$

Ya que es un campo de Markov, la distribución conjunta (o la probabilidad de realización $ X=[x_{1},x_{2}] $) es la siguiente: $$ p\left ( X \right )=\frac{exp\left ( \theta \left ( x_{1}+x_{2} \right )+2 x_{1}x_{2} \alpha\right )}{Z\left ( \theta, \alpha \right )}=\frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )} $$ Desde que asumió la plana priores de $\alpha$$\theta$, posterior es entonces proporcional a $$\pi(\theta, \alpha |X)\propto \frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )}$$ Desde $Z(\theta, \alpha)$, en general, es muy difícil de evaluar (montones de sumatorias) estoy usando una variable auxiliar método debido a J. Moller (2006). De acuerdo a este método, primero se me dibuja una muestra de datos de ${X}'$ por el muestreador de Gibbs (desde los condicionales son sólo distribuciones de poisson), a continuación, dibuje una propuesta de distribución de Gauss y calcular en consecuencia los criterios de aceptación $H({X}',{\alpha}',{\theta}'|X, \alpha, \theta)$. Y aquí tengo un salvaje de la cadena de Markov. Cuando imponer algunos límites dentro de los que la cadena se puede mover, el sampler parece converger a algunos de distribución, pero una vez que me muevo al menos uno de los límites, distribución resultante también se mueve y se muestra siempre trancation.
Creo que @Xi'an es de wright - el posterior podría ser incorrecta.

Answer 1

Me parece sorprendente que un plano probabilidad produce la convergencia: es generalmente el caso contrario, que causa problemas! La costumbre primer cheque para este tipo de situaciones es asegurarse de que su trasero es correcto: si no se explicaría por un sinfín de excursiones en las "colas". Si la parte posterior es de hecho correcta, usted podría utilizar más gordo de la cola de propuestas como la de una distribución de Cauchy... Y un algoritmo adaptativo a la Roberts y Rosenthal.

Si esto todavía "no funciona", propongo considerar un reparameterisation de la modelo, usando, por ejemplo, (es decir, si no hay otra natural parametrisation) logística de transformar, $$ \varphi(x) = \exp(x)/\{1+\exp(x)\} $$ (con un posible parámetro de escala), que trae el parámetro en la unidad de la plaza.

Con respecto a las anteriores respuestas, muestreo de Gibbs suena como más probable que la solución que aceptar-rechazar, que requiere encontrar un límite y la ampliación de la t de distribución hacia la parte posterior, lo cual no parece factible que el más robusto de Metropolis-Hastings sampler...

Answer 2

¿Puede anotar la distribución de su primer parámetro condicional a su segundo parámetro y viceversa? Si es así, el muestreo de Gibbs sería una opción viable. Es sólo un par de líneas de código y se puede mezclar casi al instante en muchos casos.

Answer 3

EDIT: Véase la respuesta de @Xi'an y el debate después de ver los asuntos con el siguiente enfoque.

Si de Metropolis-Hastings falla y el modelo es relativamente simple, se podría pensar en utilizar el aceptar-rechazar el algoritmo con los Estudiantes de la $t$ distribución con un bajo grado de libertad (1-6) para las propuestas.

Si el uso de R, se puede simular fácilmente un Estudiante de la $t$ rt(). Si usted no tiene una manera fácil de generar $t$ variables con el software, pero se puede simular un $\Gamma$, luego el dibujo de la varianza de una Gaussiana de una $\Gamma$ a cada paso y la simulación de una Gaussiana con que la varianza es equivalente.