¿Por qué un $p(\sigma^2)\sim\text{IG(0.001, 0.001)}$ ¿se considera débil la prioridad sobre la varianza?

Question

Fondo

Una de las prioridades débiles sobre la varianza más utilizadas es la gamma inversa con parámetros $\alpha =0.001, \beta=0.001$ (Gelman 2006) .

Sin embargo, esta distribución tiene un 90%CI de aproximadamente $[3\times10^{19},\infty]$ .

library(pscl)
sapply(c(0.05, 0.95), function(x) qigamma(x, 0.001, 0.001))

[1] 3.362941e+19          Inf

De ello interpreto que el $IG(0.001, 0.001)$ da una probabilidad baja de que la varianza sea muy alta, y la probabilidad muy baja de que la varianza sea inferior a 1 $P(\sigma<1|\alpha=0.001, \beta=0.001)=0.006$ .

pigamma(1, 0.001, 0.001)
[1] 0.006312353

Pregunta

¿Me estoy perdiendo algo o se trata realmente de un prior informativo?

actualización para aclararlo, la razón por la que lo consideraba "informativo" es porque afirma con rotundidad que la varianza es enorme y muy superior a la escala de casi cualquier varianza jamás medida.

seguimiento ¿proporcionaría un metaanálisis de un gran número de estimaciones de varianza una priorización más razonable?

---

Referencia

Gelman 2006. Distribuciones a priori de los parámetros de varianza en modelos jerárquicos . Análisis Bayesiano 1(3):515-533

Answer 1

Usando la distribución gamma inversa, obtenemos:

$$p(\sigma^2|\alpha,\beta) \propto (\sigma^2)^{-\alpha-1} \exp(-\frac{\beta}{\sigma^2})$$

Se puede ver fácilmente que si $\beta \rightarrow 0$ y $\alpha \rightarrow 0$ entonces la gamma inversa se aproximará a la prior Jeffreys. Esta distribución se denomina "no informativa" porque es una aproximación adecuada a la prior Jeffreys

$$p(\sigma^2) \propto \frac{1}{\sigma^2}$$

Lo cual es poco informativo para los parámetros de escala véase un ejemplo en la página 18 porque esta prioridad es la única que permanece invariante ante un cambio de escala (nótese que la aproximación no es invariante). Esta tiene una integral indefinida de $\log(\sigma^2)$ lo que demuestra que es impropio si el rango de $\sigma^2$ incluye $0$ o $\infty$ . Pero estos casos son sólo problemas en las matemáticas - no en el mundo real. En realidad nunca se observa un valor infinito para la varianza, y si la varianza observada es cero, ¡tienes datos perfectos!. Porque se puede establecer un límite inferior igual a $L>0$ y límite superior igual a $U<\infty$ y su distribución es correcta.

Aunque pueda parecer extraño que esto sea "poco informativo" en el sentido de que prefiere las variaciones pequeñas a las grandes, pero esto es sólo a una escala. Se puede demostrar que $\log(\sigma^2)$ tiene una distribución uniforme impropia. Así que esta prioridad no favorece a ninguna escala sobre cualquier otro

Aunque no está directamente relacionada con su pregunta, yo sugeriría una "mejor" distribución no informativa eligiendo los límites superior e inferior $L$ y $U$ en el Jeffreys anterior en lugar de $\alpha$ y $\beta$ . Por lo general, los límites se pueden establecer con bastante facilidad con un poco de pensamiento a lo que $\sigma^2$ en el mundo real. Si fuera el error en algún tipo de cantidad física - $L$ no puede ser menor que el tamaño de un átomo, o el tamaño más pequeño que puedas observar en tu experimento. Más información en $U$ no podría ser mayor que la Tierra (o el Sol, si se quiere ser realmente conservador). De esta forma se mantienen las propiedades de invariancia y es más fácil tomar muestras a partir de un modelo anterior: toma $q_{(b)} \sim \mathrm{Uniform}(\log(L),\log(U))$ y, a continuación, el valor simulado como $\sigma^{2}_{(b)}=\exp(q_{(b)})$ .

Answer 2

Es casi plano. Su mediana es 1,9 E298, casi el mayor número que se puede representar en aritmética flotante de doble precisión. Como señalas, la probabilidad que asigna a cualquier intervalo que no sea realmente enorme es realmente pequeña. Es difícil ser menos informativo.