Sé que la distribución beta es conjugado del binomio. ¿Pero lo que es la conjugada antes de la beta? Gracias.
Respuestas
¿Demasiados anuncios?
Andre Miller
Puntos
182
Sí, tiene un conjugado antes de la exponencial de la familia. Tener en cuenta los tres parámetros de la familia $$ \pi(\alpha, \beta \mediados de los a, b, p) \propto \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left (\alpha + b\beta \right). $$ Para algunos valores de $(a, b, p)$ esto es integrable, aunque todavía no he averiguado que (creo $p \ge 0$ $a < 0, b < 0$ que $p = 0$ corresponde a independiente de distribuciones exponenciales así que definitivamente funciona, y el conjugado de actualización implica el incremento de $p$, por lo que esta sugieren $p > 0$ funciona igual de bien).
El problema, y al menos parte de la razón nadie la usa, es que $$ \int_0^\infty \int_0^\infty \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left (\alpha + b\beta \right) = ? $$ es decir, la normalización de la constante no tiene un cloed forma.
Parece que ya se dio por vencido en conjugacy. Sólo para el registro, una cosa que he visto a gente haciendo (pero no recuerdo exactamente dónde, lo siento) es un reajuste de parámetros como este. Si $X_1,\dots,X_n$ son condicionalmente iid, dado $\alpha,\beta$, de tal manera que $X_i\mid\alpha,\beta\sim\mathrm{Beta}(\alpha,\beta)$, recuerde que $$ \mathbb{E}[X_i\mid\alpha,\beta]=\frac{\alpha}{\alpha+\beta} =: \mu $$ y $$ \mathbb{Var}[X_i\mid\alpha,\beta] = \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)} =: \sigma^2 \, . $$ Por lo tanto, usted puede volver a parametrizar la probabilidad en términos de $\mu$ $\sigma^2$ y el uso como antes $$ \sigma^2\mid\mu \sim \mathrm{U}[0,\mu(1-\mu)] \qquad \qquad \mu\sim\mathrm{U}[0,1] \, . $$ Ahora usted está listo para calcular la parte posterior y explorar por su favorito método de cálculo.
tylerharms
Puntos
79
En teoría no debería ser un conjugado antes de la distribución beta. Esto es debido a que
- la distribución beta es uno de los exponencial de distribuciones de la familia, y
- en teoría debería ser posible obtener una antes. Ver, por ejemplo, wikipedia, D Blei la conferencia sobre exponencial de las familias.
Sin embargo, la derivación se ve difícil, y para citar Un Bouchard-Costa de la Exponencial de las Familias y Conjugar los Priores
Una observación importante es que esta receta no siempre se obtiene el un conjugado antes de que es computacionalmente tratable.
De acuerdo con esto, no hay ninguna previa para la distribución Beta en D Fink es Un Compendio de Conjugar los Priores.
user37239
Puntos
11
Robert y Casella (RC) a pasar a describir la familia de conjugar los priores de la distribución beta en el Ejemplo 3.6 (p 71 - 75) de su libro, la Introducción de Métodos de Monte Carlo en R, Springer, 2010. Sin embargo, citan el resultado sin citar una fuente.
Añadido en respuesta a gung la solicitud para más detalles. RC estado que para la distribución de $B(\alpha, \beta)$, el conjugado antes de "... de la forma
$$ \pi(\alpha,\beta) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} x_0^{\alpha} y_0^{\beta} $$
donde $\{\lambda, x_0, y_0\}$ son hyperparameters, ya que la parte posterior es entonces igual a
$$ \pi(\alpha,\beta \vert x) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} (xx_0)^{\alpha} ((1-x)y_0)^{\beta}." $$
El resto del ejemplo se refiere a la importancia de muestreo de $\pi(\alpha,\beta \vert x)$ a fin de calcular la probabilidad marginal de $x$.
