El sesgo de la varianza/precisión del estimador usando Gamma antes de

Question

Asumir he a $N$ muestras $x_1, \cdots, x_N$ a partir de una variable aleatoria Gaussiana $X\sim N(\mu, \sigma^2)$ donde tanto $\mu$ $\lambda = 1/\sigma^2$ son desconocidos.

Si puedo solicitar la MLE, he a $\mu_{MLE} = \frac{1}{N} \sum_i x_i$, e $\lambda_{MLE}^{-1} = \frac{1}{N} \sum_i (x_i - \mu_{MLE})^2$. Tenga en cuenta que $\lambda_{MLE}^{-1}$ es sesgada, y la estimación insesgada será $\frac{N}{N-1} \lambda_{MLE}^{-1}$.

Ahora, tengo una distribución Gamma $Gamma(a_0, b_0)$ como antes de $\lambda$.

Con $N$ muestras, tenemos que la parte posterior de $\lambda$ $Gamma(a_N, b_N)$ donde$a_N = a_0 + N/2$$b_N = b_0 + N/2 \lambda_{MLE}^{-1}$.

Obviamente, si elijo $a_0=0$$b_0=0$, luego de alcanzar el MLE solución, que es sesgada.

Mi pregunta es, hay alguna antes de $\lambda$ que me da una estimación insesgada $\frac{N}{N-1} \lambda_{MLE}^{-1}$? Parece que $a_0=-1/2, b_0=0$ hace el trabajo, pero que no define una adecuada distribución Gamma.

Answer 1

Este es un resultado general de (Blackwell y Girshik, 1954): no Hay (correcto) antes de la distribución que conduce a la parte posterior de la expectativa de ser un estimador imparcial.

prueba (Blackwell y Girshik, 1954): Suponga que la parte posterior de la expectativa (y de Bayes estimación bajo el error cuadrático pérdida) $$ \delta(x) = \mathbb{E}[\theta|X=x] $$ es imparcial para $\theta$, es decir, satisface $$ \mathbb{E}_{\theta_0}[\delta(X)]=\theta_0 $$ para cada valor de $\theta_0$ (donde la expectativa es que en virtud de la distribución condicional de $X$$\theta=\theta_0$. Entonces, por el teorema de Fubini, el uso de la distribución conjunta de $(\theta,X)$, $$ \mathbb{E}[\theta \delta(X)] = \mathbb{E}[\mathbb{E}[\theta|X]\delta(X)] = \mathbb{E}[\delta(X)^2] $$ si lo primero que integrar en $\theta$ y $$ \mathbb{E}[\theta \delta(X)] = \mathbb{E}[\theta\mathbb{E}[\delta(X)|\theta]] = \mathbb{E}[\theta^2]. $$ si lo primero que integrar en $X$. Por lo tanto, el riesgo de Bayes es null, $$ \mathbb{E}[\{\theta \delta(X)\}^2] = 0, $$ lo cual es imposible (salvo en el poco interesante configuración de donde está el verdadero valor del parámetro puede ser conocido por el seguro). $\blacksquare$

---

Naturalmente, si se elimina la condición de que el estado es correcto, hay muchos ejemplos de lo contrario: es posible obtener estimadores insesgados de como posterior expectativas inadecuado, priores, como se muestra en la pregunta por $a_0=-1/2$$b_0=0$.