9 votos

Es asintóticamente eficiente bajo heterocedasticidad OLS

Sé que OLS es imparcial, pero no eficiente bajo heterocedasticidad en una regresión lineal de ajuste.

En Wikipedia

http://en.wikipedia.org/wiki/Minimum_mean_square_error

El estimador MMSE es asintóticamente insesgados y converge en distribución a la distribución normal: $\sqrt{n}(\hat{x} - x) \xrightarrow{d} \mathcal{N}\left(0 , I^{-1}(x)\right)$, donde I(x) es el Pescador de la información de x. Por lo tanto, el estimador MMSE es asintóticamente eficiente.

MMSE es reclamado para ser asintóticamente eficiente. Estoy un poco confundido aquí.

¿Esto significa que la OPERACIÓN no es eficiente en muestras finitas, pero asintóticamente eficiente bajo heterocedasticidad?

La crítica de las actuales respuestas: Hasta el momento la propuesta de la respuesta no la dirección de la limitación de la distribución.

Gracias de antemano

3voto

Zachary Blumenfeld Puntos 1543

El artículo nunca asumió homoskadasticity en la definición. Para ponerlo en el contexto del artículo, homoskedasticity sería decir: $$ E\{(\hat x-x)(\hat x-x)^T\}=\sigma I $$ Donde $I$ $n\times n$ matriz identidad y $\sigma$ es un escalar número positivo. Heteroscadasticity permite

$$ E\{(\hat x-x)(\hat x-x)^T\}=D $$

Cualquier $D$ diaganol positiva definida. El artículo define la matriz de covarianza en la forma más general posible, como la centrada en el segundo momento de algunas implícito multi-variable de distribución. debemos conocer la distribución multivariante de $e$ para obtener una asintóticamente eficiente y estimación consistente de $\hat x$. Esto proviene de una función de probabilidad (que es un componente obligatorio de la parte posterior). Por ejemplo, suponga $e \sim N(0,\Sigma)$ (i.e $E\{(\hat x-x)(\hat x-x)^T\}=\Sigma$. Entonces la probabilidad implícita de la función es $$ \log[L]=\log[\phi(\hat x -x, \Sigma)] $$ Donde $\phi$ es la normal multivariante pdf.

La matriz de información de fisher puede ser escrito como $$ I(x)=E\bigg[\bigg(\frac{\partial}{\partial x}\log[L]\bigg)^2 \,\bigg|\,x \bigg] $$ ver en.wikipedia.org/wiki/Fisher_information para obtener más. Es desde aquí que podemos derivar $$ \sqrt{n}(\hat x -x) \rightarrow^d N(0, I^{-1}(x)) $$ El de arriba es el uso de una función de pérdida cuadrática, pero ¿ no asumiendo homoscedasticity.

En el contexto de la OPERACIÓN, donde podemos retroceder $y$ $x$ asumimos $$ E\{y|x\}=x'\beta $$ La probabilidad implícita es $$ \log[L]=\log[\phi(y-x'\beta \sigma I)] $$ Que puede ser convenientemente reescribirse como $$ \log[L]=\sum_{i=1}^n\log[\varphi(y-x'\beta \sigma)] $$ $\varphi$ univariado pdf normal. El pescador de la información es entonces $$ I(\beta)=[\sigma (xx')^{-1}]^{-1} $$

Si homoskedasticity no se cumplen, entonces el Pescador información como se ha indicado es miss especificado (pero la esperanza condicional de la función sigue siendo la correcta) por lo que las estimaciones de $\beta$ será constante, pero ineficiente. Podríamos reescribir la probabilidad de que la cuenta de heteroskacticity y la regresión es eficiente, es decir, podemos escribir $$ \log[L]=\log[\phi(y-x'\beta, D)] $$ Esto es equivalente a ciertas formas de la Generalizada Menos Plazas como la de mínimos cuadrados Ponderados. Sin embargo, esto va a cambiar la matriz de información de Fisher. En la práctica, que a menudo no se conoce la forma de heterocedasticidad por lo que a veces prefieren aceptar la ineficiencia en lugar de posibilidad de la polarización de la regresión por perder la especificación de sistemas de ponderación. En tales casos, la covarianza asintótica de $\beta$ no $\frac{1}{n}I^{-1}(\beta)$ como se especifica anteriormente.

2voto

random_guy Puntos 1198

No, no es eficiente bajo heterocedasticidad OLS. Eficiencia de un estimador se obtiene si el estimador tiene la menor varianza entre otros estimadores posibles. Afirmaciones sobre eficacia en OLS se realizan independientemente de la distribución limitante de un estimador.

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X