Relación entre la distribución binomial negativa y la Bayesiana de Poisson con priores Gamma

Question

Estoy estudiando la distribución binomial negativa y parece que modela la sobredispersión en un proceso poisson usando una distribución gamma (una mezcla o algo así, pero puedo estar equivocado).

Paralelamente, estoy estudiando sobre inferencia bayesiana y me llamó la atención que al modelar un proceso de Poisson la prior se extrae de una distribución gamma. Desde mi comprensión de principiante la estadística bayesiana es particularmente útil para estudiar casos con sobredispersión (pocas observaciones). Por lo tanto, me preguntaba si existe alguna relación entre la distribución neg-bin y la modelización bayesiana de un proceso de Poisson. Intento comprenderlo mejor. Muchas gracias.

Answer 1

(Nótese que en lo que sigue soy bastante cuidadoso sobre cuándo utilizar mayúsculas $\Lambda$ y cuándo utilizar minúsculas $\lambda$ y cuándo utilizar el capital $X$ y cuándo utilizar minúsculas $x$ .)

Supongamos que la distribución de $\Lambda$ es la distribución Gamma: $$ \frac 1 {\Gamma(\alpha)} \left( \frac \lambda \beta \right)^{\alpha-1} e^{-\lambda/\beta} \left(\frac{d\lambda}\beta\right). $$ Y supongamos que la distribución condicional de $X$ dado $\Lambda$ es la distribución de Poisson $$ x \mapsto \frac{e^{-\Lambda} \Lambda^x }{x!} \text{ for } x = 0,1,2,3,\ldots $$ Entonces tienes \begin{align} & \Pr(X=x) \\[10pt] = {} & \operatorname{E}(\Pr(X=x \mid \Lambda)) = \operatorname{E}\left( \frac{e^{-\Lambda} \Lambda^x}{x!} \right) \\[10pt] = {} & \int_0^\infty \left( \frac{e^{-\lambda}\lambda^x}{x!} \right) \frac 1 {\Gamma(\alpha)} \left( \frac \lambda \beta \right)^{\alpha-1} e^{-\lambda/\beta} \left(\frac{d\lambda}\beta\right) \\[10pt] = {} & \frac 1 {x!\Gamma(\alpha)\beta^\alpha} \int_0^\infty \lambda^{x+\alpha-1} e^{-\lambda(1\,+\,1/\beta)} \, d\lambda \\ & \qquad \qquad \text{(We pulled out the factors that do not depend on $\lambda$).}\\[10pt] = {} & \frac 1 {x!\Gamma(\alpha)\beta^\alpha} \cdot \left(\frac \beta {\beta+1} \right)^{x+\alpha} \int_0^\infty \left( \lambda \left( 1 + \frac 1 \beta \right) \right)^{x+\alpha-1} e^{-\lambda(1+1/\beta)} \left( d\lambda \left( 1 + \frac 1 \beta \right) \right) \\[10pt] = {} & \frac 1 {x!\Gamma(\alpha)\beta^\alpha} \cdot \left(\frac \beta {\beta+1} \right)^{x+\alpha} \int_0^\infty u^{x+\alpha-1} e^{-u} \, du \\[10pt] = {} & \frac {\Gamma(x+\alpha)} {x!\Gamma(\alpha)\beta^\alpha} \cdot \left(\frac \beta {\beta+1} \right)^{x+\alpha} \\[10pt] = {} & \frac {\Gamma(x+\alpha)} {x!\Gamma(\alpha)} \cdot \left( \frac 1 {\beta+1} \right)^\alpha \left(\frac \beta {\beta+1} \right)^x \end{align} y se trata de una función de masa de probabilidad binomial negativa con $p$ y $q$ igual a $\dfrac 1 {\beta+1}$ y $\dfrac\beta{\beta+1}$ respectivamente (dependiendo de la convención que se siga). Es la probabilidad de que el número de fallos antes del $\alpha$ l éxito es $x$ cuando la probabilidad de éxito en cada ensayo independiente es $1/(\beta+1).$

Así que una mezcla Gamma de distribuciones Poisson es una distribución binomial negativa, y esa es la conexión entre Poisson y binomial negativa.