Pregunta original
Entiendo que la ecuación $\vec{x}^\top\mathbf{A}\vec{x} = r$ representa un elipsoide, es decir el espacio de solución de esa ecuación es un elipsoide, y se puede hacer la descomposición propia de $\mathbf{A}$ para indicarle el eje principal del elipsoide. Mi pregunta es cómo se puede interpretar el lado izquierdo de esa ecuación solo, es decir la forma cuadrática por sí misma?
Esto surge durante el PCA, donde estamos tratando de maximizar la forma cuadrática $\vec{x}^\top\mathbf{A}\vec{x}$ con la condición de que $\vec{x}^\top\vec{x} = 1$ . Mi intuición es que la forma cuadrática bajo restricción formará el "mismo" (o probablemente "similar" es una palabra más apropiada) elipsoide que la forma de la ecuación $\vec{x}^\top\mathbf{A}\vec{x} = 1$ y el $\vec{x}$ para maximizar la forma cuadrática sería sólo el eje largo, pero no pude probarme esto ni idear una manera formal de establecer esta imagen en mi mente. Perdonad de antemano si esto se ha preguntado antes (pero no lo he encontrado)... Cualquier ayuda será muy apreciada. ¡Gracias!
comentarios
La pregunta original es un poco vaga, y la pregunta "¿por qué los valores/vectores propios maximizan el término cuadrático?" está efectivamente planteada en otra parte, probablemente varias veces. Pido disculpas de nuevo por la duplicación. Sin embargo, me doy cuenta de que estaba imaginando algo más que no se encuentra en otras preguntas. Intentaré formalizarlo en la siguiente nueva pregunta:
nueva pregunta
Dejemos que $\mathbf{A}$ sea una matriz definida positiva, de modo que $\vec{x}^\top\mathbf{A}\vec{x} = 1$ representan un elipsoide. Sea $\vec{v}$ sea un vector que esté en la misma dirección que $\vec{x}$ y al mismo tiempo asumir la longitud de la forma cuadrática: $\lVert\vec{v}\rVert = \vec{x}^\top\mathbf{A}\vec{x}$ . Mi pregunta es cuál sería el gráfico de $\vec{v}$ ¿se ve así? ¿Puedes poner el círculo de la unidad $\vec{x}^\top\vec{x} = 1$ el elipsoide $\vec{x}^\top\mathbf{A}\vec{x} = 1$ y $\vec{v}$ en la misma parcela y desarrollar alguna relación geométrica intuitiva entre ellos? (para que quede claro, el vector $\vec{v}$ es lo que me imaginaba al decir "interpretación geométrica de la forma cuadrática por sí misma" en el título)
0 votos
Porque $A$ es simétrica, se puede escribir en la forma $P^TDP$ donde $P$ es una matriz ortogonal, es decir $P^{-1}=P^T$ y $D$ es una matriz diagonal con los valores propios de $A$ como los elementos diagonales. La cuestión es que $P$ conserva las longitudes, por lo que $||\vec{x}||=1$ si y sólo si $||P\vec{x}||=1$ . De ello se desprende que $\vec{x}^TA\vec{x}$ se maximiza cuando $\vec{y}=P\vec{x}$ es un vector propio que pertenece al mayor valor propio de $A$ . Eso es porque $$\vec{x}^TA\vec{x}=\vec{y}^TD\vec{y}$$ y con la matriz diagonal la solución es bastante obvia.
0 votos
Básicamente, usted maximiza $\vec{x}^TA\vec{x}$ dejando $\vec{x}$ para ser un vector unitario paralelo a la El más corto eje del elipsoide $\vec{x}^TA\vec{x}=1.$
0 votos
Una cuestión similar se ha estudiado al menos aquí . Probablemente también en otras partes de nuestro sitio. Compruebe los hilos en Relacionado en el margen derecho.
0 votos
$x^TAx=r$ no siempre representa un elipsoide, pero sí alguna cuádrica.
0 votos
@JyrkiLahtonen ¡Gracias por los comentarios! Ahora me doy cuenta de que es muy sencillo ver cómo los vectores propios/ejes cortos maximizan el término cuadrático algebraicamente. Me doy cuenta de que estaba imaginando otra cosa cuando hice la pregunta. He editado mi pregunta en consecuencia.
0 votos
@amd ¡Gracias por el comentario! Me he asegurado de aclararlo en la nueva pregunta.