¿Por qué la intercambiabilidad de variables aleatorias es esencial para el modelado Bayesiano jerárquico?
Respuestas
¿Demasiados anuncios?
La intercambiabilidad no es una característica esencial de un modelo jerárquico (al menos no en el nivel de observación). Se trata básicamente de un Bayesiano análogo de "independientes e idénticamente distribuidas" de la literatura estándar. Es simplemente una manera de describir lo que usted sabe acerca de la situación en la mano. Esto es a saber, que "revolver" no altera su problema. Una de las formas me gusta pensar en esto es considerar el caso en el que recibieron $x_{j}=5$ pero no le han informado de que el valor de $j$. Si el aprendizaje que $x_{j}=5$ le llevaría a sospechar particular, los valores de $j$ más que otros, a continuación, la secuencia no es intercambiable. Si no dice nada acerca de la $j$, entonces la secuencia es intercambiable. Tenga en cuenta que exhcangeability es "la información" en lugar de "en la realidad" - depende de lo que usted sabe.
Mientras que la intercambiabilidad no es esencial en términos de las variables observadas, probablemente sería muy difícil para adaptarse a cualquier modelo sin noción alguna de la intercambiabilidad, porque sin la intercambiabilidad de que, básicamente, no tienen ninguna justificación para la agrupación de las observaciones juntos. Así que mi conjetura es que sus inferencias será mucho más débil si usted no tiene la intercambiabilidad en algún lugar en el modelo. Por ejemplo, considere el$x_{i}\sim N(\mu_{i},\sigma_{i})$$i=1,\dots,N$. Si $x_{i}$ son completamente intercambiables, entonces esto significa que $\mu_{i}=\mu$$\sigma_{i}=\sigma$. Si $x_{i}$ son condicionalmente intercambiables determinado$\mu_{i}$, entonces esto significa que $\sigma_{i}=\sigma$. Si $x_{i}$ son condicionalmente intercambiables determinado$\sigma_{i}$, entonces esto significa que $\mu_{i}=\mu$. Pero tenga en cuenta que en cualquiera de estos dos "condicionalmente intercambiables" de los casos, la calidad de la inferencia es reducida en comparación con la primera, porque hay un $N$ parámetros que se introdujo en el problema. Si no tenemos la intercambiabilidad, entonces tenemos básicamente $N$ no relacionados de problemas.
Básicamente, la intercambiabilidad significa que podemos hacer la inferencia $x_{i}\to \text{parameters}\to x_{j}$ cualquier $i$$j$, lo que en parte son intercambiables
Shawn
Puntos
8120
"Esencial" es demasiado vago. Pero surpressing los tecnicismos, si la secuencia de $X=\{X_i\}$ es intercambiable, a continuación, el $X_i$ son condicionalmente independientes dado algunos desapercibida parámetro(s) $\Theta$, con una distribución de probabilidad $\pi$. Que es, $p(X) = \int p(X_i|\Theta)d\pi(\Theta)$. $\Theta$ no tienen que ser de univariante o incluso finito dimensionales y puede ser representada como una mezcla, etc.
Exchangability es esencial en el sentido de que estas relaciones de independencia condicional nos permite ajuste de los modelos, casi seguro que no podrían de otra manera.
kbrinley
Puntos
664
No es! No soy un experto aquí, pero voy a dar mi granito de arena. En general, cuando se tiene un modelo jerárquico, dicen
$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$
$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$
Hacemos condicional supuestos de independencia, es decir, condicionado a $\Theta_{2}$, $\Theta_{1}$ son intercambiables. Si el segundo nivel no es intercambiable, que puede incluce otro nivel que hace intercambiable. Pero incluso en el caso de que usted no puede hacer una suposición de exchaganbelity, el modelo puede ser un buen ajuste a los datos en el primer nivel.
Por último, pero no menos importante, la intercambiabilidad sólo es importante si se quiere pensar en términos de De Finetti del teorema de representación. Usted podría pensar que los priores son la regularización de las herramientas que le ayudan a adaptarse a su modelo. En este caso, la intercambiabilidad suposición es tan buena como lo es el ajuste del modelo a los datos. En otras palabras, si usted piensa jerárquico Bayesiano del modelo como forma de obtener amejor ajuste a los datos, luego la intercambiabilidad no es esencial en cualquier sentido.
