Resultados de mínimos cuadrados generalizados

Question

Entonces, tengo el siguiente problema:

Dejemos que $Y\sim N_n(X\beta, \sigma^2 V)$ . Demostrar que, si $\hat{\beta} = (X^{\prime}V^{-1}X)^{-1}X^{\prime}V^{-1}Y$ entonces:

1. $SSR = (Y-X\hat{\beta})^{\prime}V^{-1}(Y-X\hat{\beta}) \sim \sigma^{2}\chi^{2}_{(n-p)}$ .
2. $SSR/(n-p)$ es UMVUE para $\sigma^{2}$ .
3. Si $\hat{Y} = X\hat{\beta} = PY$ entonces $P$ es idempotente pero no necesariamente simétrica.
4. $\hat{\beta}$ es AZUL para $\beta$ .

A tener en cuenta, el ejercicio no dijo nada sobre la matriz $V$ Supongo que $V$ es, al menos, una matriz semipositiva definida, o incluso positiva-definida ya que $\sigma^{2}V$ es una matriz de covarianza...

Mi intento:

1. La lectura de Seber Análisis de regresión lineal Me doy cuenta de que hay un teorema que dice que si $Y\sim N_n(\mu, \Sigma)$ donde $\Sigma$ es positivo-definido, entonces $(Y-\mu)^{\prime}\Sigma^{-1}(Y-\mu)\sim \chi^{2}_{n}$ .

Desde $Y-X\hat{\beta}\sim N_n(0,\sigma^{2}V)$ y $\Sigma = \sigma^2 V$ positivo-definido entonces $SSR = (Y-X\hat{\beta})^{\prime}\Sigma^{-1}(Y-X\hat{\beta})\sim \chi^{2}_{(n)}$ pero el ejercicio dice que la distribución es $\chi^2_{(n-p)}$ , que sería, si no me equivoco, si $\operatorname{rank}(\Sigma)=n-p$ . Si eso es así, entonces cómo puedo probar $\operatorname{rank}(\Sigma)=n-p$ ?

2. Para esto, creo que el resultado es trivial una vez que he demostrado 1.
3. Estoy totalmente perdido en esto, para la propiedad idempotente, es tan simple como

$$P = X\hat{\beta} = X(X^\prime V^{-1}X)^{-1}X^{\prime}V^{-1}$$ $$P^{2} = X(X^\prime V^{-1}X)^{-1}X^{\prime}V^{-1} X(X^\prime V^{-1}X)^{-1}X^{\prime}V^{-1} = X(X^\prime V^{-1}X)^{-1}X^{\prime}V^{-1} = P. $$

Pero por probar que en general, $P$ no es simétrico estoy confundido, ¿debo dar un contra ejemplo o algo así?

4. Ya he comprobado que

$$\mathbb{E}[\hat{\beta}] = \beta \mbox{ and } Var(\hat{\beta}) = \sigma^{2}(X^\prime V^{-1}X)^{-1}$$

¿Es eso concluir $\hat{\beta}$ es AZUL?

Se agradecería cualquier ayuda.

Answer 1

Para que $V^{-1}$ existe es necesario que $V$ tienen un rango igual al número de sus filas o de sus columnas. En ese contexto, positivo-semidefinido implica positivo-definido. Y la afirmación $Y\sim N_n(X\beta, \sigma^2 V)$ sólo tiene sentido si $V$ es positivo-semidefinido.

Es correcto que $Y-X\beta\sim\operatorname N(0,\sigma^2 V),$ pero es no corregir que $Y-X\widehat\beta \sim\operatorname N(0,\sigma^2,V).$ De hecho, la varianza de $Y-\widehat\beta X$ es una matriz singular de rango $n-p.$ Piensa en dónde $\widehat\beta$ viene de.

Para demostrar que $\text{SSR}$ es UMVUE, tiene que demostrar que $\text{SSR}$ no admite estimadores insesgados de cero, es decir, no hay ninguna función $f$ sin depender de $\sigma$ para lo cual $\operatorname E(f(\text{SSR}))$ sigue siendo igual a $0$ como $\sigma>0$ cambios.

Demostrando que $\widehat\beta$ es AZUL para $\beta$ no debería requerir el supuesto de normalidad, sino sólo los supuestos del valor esperado (un $n\times1$ vector columna) y la varianza (un $n\times n$ matriz) de $Y.$ Este es uno cuyos detalles nunca he revisado, por lo que recuerdo. Tal vez este es digno de una pregunta publicada por separado.