Fisher información de un único muestreo de una distribución exponencial

Question

Estoy viendo un ejemplo de búsqueda de la información de Fisher para un único muestreo de una distribución exponencial donde: $$P(x|\theta) = \frac{1}{\theta}e^{-\frac{x}{\theta}}$$ La puntuación $S$$S(x|\theta) = \frac{\partial}{\partial\theta}logP(x|\theta) = -\frac{1}{\theta} + \frac{x}{\theta^2}$. Fisher información es la expectency de $S^2$ que es: $$E_x[S^2] = E_x\left[\frac{1}{\theta^2} - 2\frac{x}{\theta^3} + \frac{x^2}{\theta^4}\right]$$

Sé que esto puede sonar extraño, pero no sé cómo calcular esta expectativa. Algo es mezclado para mí aquí. Sé que $$E[P(x)]=\int xp(x)dx$$

Pero no puedo conectar las dos piezas de información.

En el libro, que tiene: $$E_x[S^2] = E_x\left[\frac{1}{\theta^2} - 2\frac{x}{\theta^3} + \frac{x}{\theta^4}] = \frac{1}{\theta^2} - 2\frac{\theta}{\theta^3} + \frac{2\theta^2}{\theta^4}\right] = \frac{1}{\theta^2}$$

Pero no puedo ver cómo es que los tenemos.

Cualquier información será de utilidad. Gracias.

Answer 1

Desde $X$ es una exponencial de la distribución con el parámetro $\frac{1}{\theta}$, $X\sim\text{exp}(\frac{1}{\theta})$, su media está dada por

$$E[X] = \frac{1}{\frac{1}{\theta}} = \theta,$$

y la varianza está dada por

$$\text{var}(X) = \frac{1}{\left(\frac{1}{\theta}\right)^2} = \theta^2.$$

Por otro lado, tenemos que

$$E[X^2] = \text{var}(X) + (E[X])^2 = 2\theta^2$$.

Además, puede utilizar la propiedad de linealidad del valor esperado

\begin{align} E_x[S^2] &= E_x\left[\frac{1}{\theta^2} - 2\frac{X}{\theta^3}+ \frac{X^2}{\theta^4}\right]\\ &= \frac{1}{\theta^2} - \frac{2}{\theta^3}E[X]+ \frac{1}{\theta^4}E[X^2] \end{align}

donde hemos utilizado el hecho de que $\theta$ es una constante (un determinista parámetro) y, por tanto,$E\left[\frac{1}{\theta^2}\right] = \frac{1}{\theta^2}$.