Mínimos cuadrados generalizados: Estimación de la matriz de varianza-covarianza

Question

El modelo lineal en forma matricial es

$ \mathbf{y}=\mathbf{X}\beta+\epsilon\textrm{ where }\epsilon\sim\mathbb{N}\left(0,\sigma^{2}\mathbf{V}\right). $

Entonces $\beta$ puede estimarse mediante mínimos cuadrados generalizados como

$ \widetilde{\beta}=\left(\mathbf{X}^{\prime}\mathbf{V}^{-1}\mathbf{X}\right)\mathbf{X}^{\prime}\mathbf{V}^{-1}\mathbf{y}. $

Me pregunto cómo calcular $\mathbf{V}$ aquí. Apreciaría mucho si usted me da algún puntero o dar una referencia para la lectura. Gracias

Answer 1

Por lo que has escrito, parece que sabes $\mathbf V$ ya. Normalmente, si escribes tu matriz de covarianza como $\sigma^2 \mathbf V$ significa que conoce la estructura dada por $\mathbf V$ (por ejemplo, intercambiable por correlaciones de conglomerados, o algo así), y sólo es necesario estimar la escala $\sigma^2$ .

Si no conoce $\sigma^2\mathbf V$ pero (i) tener una buena idea sobre la estructura que $\mathbf V$ deberían tener, y (ii) esperar que los efectos sean bastante fuertes (por ejemplo, diferencia de varianza para diferentes $y_i$ por un factor de 5, y/o correlaciones superiores a 0,5), entonces puede proceder a través de la ruta GLS factible ( un manual de econometría al azar de la primera página de Google ): estime su modelo por MCO, construya una estimación $\hat {\mathbf V}$ e introduce esa estimación. Sin embargo, para hacer eso se necesita algún tipo de modelo para $\mathbf V$ para poder describirla con un puñado de parámetros como máximo (por ejemplo, coeficiente de correlación para la estructura intercambiable; una o dos correlaciones de autoregresión para las series temporales; un modelo suavizado para la varianza con errores heteroscedásticos pero no correlacionados; etc.). No servirá de nada formar $\hat{\mathbf V}={\mathbf e}{\mathbf e'}$ ya que esta matriz ni siquiera será invertible.

Si no sabe mucho acerca de esta covarianza, y potencialmente puede no afectar mucho a los resultados, y puede no proporcionar ninguna ganancia de eficiencia que valga la pena, sería mejor dejar las cosas como están: si está exagerando cualquier tipo de correcciones en datos i.i.d., sólo está aumentando innecesariamente la varianza de las estimaciones.

Econometría avanzada de Amemiya trata el tema de los mínimos cuadrados generalizados y FGLS dentro y fuera.