Yo estaba trabajando en una pregunta sobre la matriz de proyección. Desde entonces, la proyección de la matriz es idempotente, simétrica y de la plaza de la matriz, debe ser siempre igual a $I$ (matriz Identidad). Esto puede ser demostrado por la multiplicación de la inversa de la matriz de proyección en ambos lados. Si es igual a $I$, entonces yo no entiendo el punto de uso. ¿Alguien puede por favor explicar?
Respuestas
¿Demasiados anuncios?
Sólo para ilustrar. Si usted está haciendo referencia a la unregularized OLS matriz de proyección, aquí es una "vida real" ejemplo mostrando que no tiene que ser una equivocación en su OP. Estamos retrocediendo en millas por galón más de peso del vehículo de la mtcars conjunto de datos, y la elección (para ser capaz de copiar y pegar), las primeras 5 filas de datos:
dat = mtcars[5,]
dat
mpg cyl disp hp drat wt qsec vs am gear carb
Mazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4
Mazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4
Datsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1
Hornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1
Hornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2
Ahora vamos a generar manualmente la matriz de proyección. Primero, el modelo de la matriz y y:
fit = lm(mpg ~ wt, data = dat)
X = model.matrix(fit)
y = dat[,1]
Ahora la matriz de proyección:
Pr = X %*% ((solve(t(X) %*% X)) %*% t(X))
Idempotente?
all.equal(Pr,Pr%*%Pr)
[1] TRUE
Comprobar!
Simétrica?
all.equal(Pr, t(Pr))
[1] TRUE
Comprobar!
Plaza?
dim(Pr)
[1] 5 5
Comprobar!
Igual a la matriz identidad? Bueno, no... Aquí es Pr:
Mazda RX4 Mazda RX4 Wag Datsun 710 Hornet 4 Drive Hornet Sportabout
Mazda RX4 0.29313831 0.2064585 0.39511457 0.09088541 0.01440322
Mazda RX4 Wag 0.20645850 0.2004479 0.21352984 0.19243366 0.18713015
Datsun 710 0.39511457 0.2135298 0.60874366 -0.02858313 -0.18880494
Hornet 4 Drive 0.09088541 0.1924337 -0.02858313 0.32783133 0.41743273
Hornet Sportabout 0.01440322 0.1871301 -0.18880494 0.41743273 0.56983885
El seguimiento de la respuesta con una explicación adicional en el OP (así como ahora el cambio en el título), el argumento era $ P'P=P$; $P'PP^{-1}=PP^{-1}$; por lo tanto $ P'=I$. Pero la proyección ortogonal de la matriz no es invertible, como muy bien explicados aquí. Así, las ecuaciones serían sólo en el caso de la matriz de identidad. De hecho, es fácil de imaginar: $P$ proyecto de vectores ortogonales a la columna espacio de $ X$ (piensa en términos de error) en cero, por lo tanto, una matriz de proyección tendrá un espacio nulo; y, por tanto, no es invertible.
Para una matriz identidad con vectores columna en $\mathbb R^n$, cada vector será proyectada no en un subespacio de $\mathbb R^n$, pero en $\mathbb R^n$ sí. Puede considerarse como una forma especial de la matriz de proyección, y el único invertible.
eldering
Puntos
3814
Hay un par de excelentes respuestas ya, pero me gustaría añadir uno más de la perspectiva (insinuado en @Antoni respuesta).
Una matriz idempotente satisface la ecuación de matriz
$$ X^2 = X $$
o
$$ X^2 - X = 0 $$
Que podemos factor de
$$ X(X - I) = 0 $$
Esto significa que hay relativamente pocas posibilidades para que el polinomio mínimo de a $X$
El Polinomio Mínimo es $p(x) = x$:
En este caso, $X = 0$ inmediatamente, tenemos la matriz cero. No muy interesante.
El Polinomio Mínimo es $p(x) = x - 1$:
En este caso,$X - I = 0$, lo $X = I$. Este es el caso de que usted está pensando.
El Polinomio Mínimo es $p(x) = x(x - 1)$:
Esta es la interesante "entre" caso.
Porque a la mínima que el polinomio se divide en factores lineales, la matriz $X$ es diagonalizable, con sólo $0$ $1$'s en la resultante de la diagonal.
Otra manera de ver esto: $X$ dispone de un completo conjunto linealmente independiente de vectores propios, dicen
$$ e_1, e_2, \ldots, e_{k_1}, f_1, f_2, \ldots, f_{k_2} $$
Con $k_1 + k_2 = n$. Algunos de los vectores propios se han asociado a un autovalor de cero
$$ X e_1 = 0, X e_2 = 0, \ldots, X e_{k_1} = 0$$
y el resto tiene un autovalor de a uno
$$ X f_1 = f_1, X f_2 = f_2, \ldots, X f_{k_2} = f_{k_2}$$
Ahora una imagen geométrica emerge, y se justifica el nombre de matriz de proyección. Si nos fijamos en el subespacio generado por la $f$'s, entonces la imagen de cualquier vector es en este subespacio
$$ X (a_1 e_1 + \cdots + a_{k_1} e_{k_1} + b_1 f_1 + \cdots + b_{k_2} f_{k_2}) = b_1 f_1 + \cdots + b_{k_2} f_{k_2} $$
y, por el mismo cálculo, la asignación de restringida a este subespacio es, de hecho, la identidad. Se puede ver, el mapa es en realidad una proyección en el subespacio generado por la $f$'s.
Mark L. Stone
Puntos
2037
Una matriz idempotente https://en.wikipedia.org/wiki/Idempotent_matrix (ver también https://en.wikipedia.org/wiki/Projection_(linear_algebra) ) es una matriz que es igual a su cuadrado. Por lo $P$ ser idempotente significa que $P^2 = P$. La identidad de la matriz es idempotente, pero no es el único ejemplo de la matriz.
Matrices de proyección no necesita ser simétrica, como la de 2 en 2, de la matriz cuyas filas son tanto $[0,1]$, que es idempotente, demuestra. Esto proporciona un contraejemplo a su reclamo. Por la (pre-)multiplicando ambos mueren de $P^2 = P$, ha perdido soluciones.
Edit: En respuesta al comentario de @Antoni Parellada , OLS matriz de proyección $X(X^TX)^{-1}X^T$ es idempotente y simétrica, pero en general no es igual a la matriz identidad, aunque es posible que la igualdad de la matriz de identidad en algunos especiales (inusual).
