Comparación intuitiva del cambio de base con la SVD para cualquier transformación lineal

Question

La transformación lineal T con una matriz de transformación A puede representarse bajo un cambio de base como Transformación lineal con matriz D tal que $$ A = C D C^{-1} $$ donde C es el cambio de la matriz base

La matriz D puede o no ser diagonalizable dependiendo de A. Es diagonalizable en caso de descomposición de vectores propios cuando se cumplen varias condiciones. No estoy seguro de si hay una restricción en A para que esto se realice, es decir, si esto se puede hacer sólo si A es una matriz cuadrada.

Por otro lado, la SVD de A da $$ A = U \Sigma V^{T} $$

Lo que me desconcierta es $V^{T}$ . No debería $V^{T}$ estar relacionado con $U$ al igual que $C^{-1}$ está relacionado con $C$ en el cambio de enfoque de base. ¿La diferencia se debe a que $U$ puede no ser base, sino de otra dimensión, ya que A no tiene por qué ser cuadrado. En caso de que $A$ es cuadrado, es SVD $V^{T}$ lo mismo que $C^{-1}$ ¿Intuitivamente?

¿Alguna otra comparación?

Answer 1

Vamos a jugar un poco con esto.

Dejemos que $ A \in \mathbb{R}^{m \times n} $ . Entonces sabemos que tiene una descomposición de valor singular $ A = U \Sigma V^T $ donde $ U \in \mathbb{R}^{m \times m} $ y $ V \in \mathbb{R}^{n \times n} $ son ortogonales ( $ U^T U = U U^T = I $ y $ V^T V = V V^T = I $ ) y $ \Sigma $ tiene elementos diagonales no negativos, ordenados de mayor a menor.

Ahora considere $ y = A x $ .

$ x = I x = V V^T x $ . Así que, $ V^T x $ te da los coeficientes de $ x $ al utilizar las columnas de $ V $ como base.

$ y = I y = U U^T y $ . Así que, $ U^T y $ te da los coeficientes de $ y $ al utilizar las columnas de $ U $ como base.

Así que, $ U U^T y = A V V^T x $ . Equivalentemente, $ (U^T y) = (U^T A V) (V^T x) = \Sigma (V^T x) $ .
Por lo tanto, si usted ve $ x $ en la base ortonormal derecha (dada por las columnas de $ V $ ) y $ y $ en la base ortonormal derecha (dada por las columnas de $ U $ ), entonces la matriz (no cuadrada) que los relaciona se convierte en diagonal.

Un resultado realmente hermoso.

Answer 2

He investigado más a fondo los detalles del proceso de cambio de base. La ecuación que escribí para el cambio de base, como se indica a continuación, sólo se deduce cuando T es la transformación de $ V -> V $ subespacio lineal, es decir, mapas a sí mismo. $$ A = C D C^{-1} $$

Una representación más genérica del cambio de base es $$ A = E D C^{-1} $$ que da una transformación de $V$ a $W$ subespacio lineal y A puede ser una matriz no cuadrada. Esto es equivalente a la SVD en el sentido de que E es la rotación, D es la matriz de estiramiento y C es otra rotación. Ahora D no necesita ser diagonal para la selección aleatoria de las bases E y C. Sin embargo, si son ortonormales, como en el caso de SVD, que $ \sum $ se convierte en una matriz diagonal con valores singulares.