Matriz de proyección en regresión lineal (y diferencia entre Matriz de proyección en Álgebra lineal)

Question

En la clase de álgebra lineal aprendí que $$\begin{equation*} \hat{Y} = X \hat{\beta} = X\,\left(X^\prime X \right)^{-1} \, X^\prime Y = P\,Y \end{equation*}$$

, donde \begin{equation*} P \equiv X\,\left(X^\prime X \right)^{-1} \, X^\prime \end{equation*} es una matriz de proyección.

Pero en el curso de modelo lineal una matriz de proyección se define de otra manera:

\begin{equation*} P_2 \equiv I_n- X\,\left(X^\prime X \right)^{-1} \, X^\prime \end{equation*}

¿Por qué es así? ¿Por qué en el análisis de regresión necesitamos la matriz de proyección $P_2$ en lugar de $P$?

Answer 1

Con frecuencia veo la notación

\begin{equation*} M \equiv I_n- X\,\left(X^\prime X \right)^{-1} \, X^\prime \end{equation*}

donde $M$ se llama la matriz "aniquiladora" (porque $MX = 0$) o la matriz "generadora de residuos" porque $MY = \hat u$.

Llamamos a $P$ la matriz de proyección ortogonal, y aquí también se cumple que $ \hat Y = PY$

Answer 2

Una matriz cuadrada es una matriz de proyección si y solo si es igual a su cuadrado.

Tú sabes que $P$ es una matriz de proyección, por lo tanto (multiplícala), $P^2 = P$. Por lo tanto, $P_2^2 = P_2$. Por lo tanto, $P_2$ es una matriz de proyección (al igual que $P$).

Ejercicio para ti: ¿Cuál es la relación entre los subespacios a los cuales $P$ y $P_2$ proyectan?