Solución general mediante la pseudoinversión.

Question

Tengo problemas para entender la solución general de un $Ax=b$ cuando $x=A^+b+ [I-A^+A]w$

No entiendo por qué el $w$ está ahí y por qué $w$ puede ser cualquier vector.

Mi opinión es: $Ax=b$

$A[A^+b+ [I-A^+A]w]=b$

$Ax^++[A-AA^+A]w=b$

$Ax^++[A-A]w=b$

$Ax^+=b$

Pero como $A^+A$ es la proyección sobre el espacio de la fila, $I-A^+A$ es la proyección sobre el espacio nulo de A, para que esta solución sea válida $w$ debe ser un vector en el espacio de la fila? En mi clase $w$ se considera cualquier vector, ¿por qué esto? Esto no tiene ningún sentido para mí.

Si alguien me puede proporcionar algún libro de texto o explicar me ayudaría mucho.

Answer 1

Deberías dar la definición de pseudoinverso, $A^\dagger$ . Si se utiliza la inversa de Moore-Penrose, entonces es $A^\dagger = (A^TA)^{-1}A^T$ . Por lo tanto: $$I - A^\dagger A = I - (A^TA)^{-1}A^TA = 0$$ $$x = A^\dagger b + 0w, \quad \forall w\in R^n$$ La proyección sobre el espacio de alcance de $A$ no es $A^\dagger A$ pero es $AA^\dagger$ .

Como se ha preguntado en los comentarios, si A no tiene un rango de columna completo, debe utilizar la siguiente fórmula SVD para la inversa de Penrose: $$A = U\Sigma V^T, \quad \Sigma = diag(\sigma_1,\ldots,\sigma_r,0,\ldots,0)$$ $$A^\dagger = V\Sigma^\dagger V^T, \quad \Sigma^\dagger = diag(1/\sigma_1,\ldots,1/\sigma_r,0,\ldots,0)$$ donde $r$ es el rango de A. Entonces: $$I - A^\dagger A = I - V_{r+1:d}V_{r+1:d} = P_{N(A)}$$ donde $A\in R^{n\times d}$ y $P_{N(A)}$ es la proyección ortogonal sobre el espacio nulo de $A$ . Ahora, como el término adicional en el espacio nulo será mapeado a 0 cuando se multiplique con la matriz $A$ : $$A x = AA^\dagger b + \underbrace{A P_{N(A)}w}_{= 0, \ \forall w\in R^d} = AA^\dagger b = b$$ La última igualdad se mantiene si $b$ está en el espacio de alcance de $A$ .