¿Cuál es el estado de Hesse de la norma espectral?

Question

La norma espectral de una matriz simétrica es el valor absoluto de la parte superior autovalor. El gradiente de esta norma es $uu^T$ donde $u$ es el vector propio asociado con la parte superior autovalor.

Suponga que $A$ tiene un aislado superior autovalor. Entonces es dos veces diferenciable. ¿Cuál es su estado de Hesse?

Cualquier comentario sobre la forma en que generalmente se calcula Alemanes de la matriz de normas también son apreciadas!

Answer 1

Permítanos organizar todos los valores propios y sus correspondientes vectores propios) en orden ascendente: $|\lambda_1| \leq \cdots |\lambda_{n-1}| < |\lambda_n|$. A continuación, los elementos de la deseada de Hesse son: $$\frac{\partial^2 \|A\|_2}{\partial A_{kl}\partial A_{ij}} = \frac{\partial^2 \lambda_{n}}{\partial A_{kl}\partial A_{ij}} = [\frac{\partial u^T_{n}}{\partial A_{kl}}]_i [u_{n}]_j + [u^T_{n}]_i [\frac{\partial u_{n}}{\partial A_{kl}}]_j$$

Aquí utilizamos el hecho de que $A$ es diagonalizable, es decir, el conjunto de vectores propios $u_i, \ i=1,\cdots, n$ forman una base ortogonal. La base se utiliza para descomponer $\frac{\partial u_n}{\partial A_{kl}} = \sum_{m=1}^n c_m u_m$. Para encontrar los coeficientes de $c_m \in \mathbb{R}$ uno podría seguir el análisis de perturbación (https://en.wikipedia.org/wiki/Eigenvalue_perturbation).

Acabamos de dar los resultados: $$\frac{\partial u_{n}}{\partial A_{kl}} = \sum_{m=1}^{n-1} \frac{[u_m]_k[u_n]_l}{\lambda_n - \lambda_m} u_m$$ $$\frac{\partial u^T_{n}}{\partial A_{kl}} = \sum_{m=1}^{n-1} \frac{[u_m]_l[u_n]_k}{\lambda_n - \lambda_m} u_m$$ Y el de Hesse elementos son: $$\frac{\partial^2 \|\|_2}{\partial A_{kl}\partial A_{ij}} = \sum_{m=1}^{n-1} \frac{[u_n]_k[u_n]_j[u_m]_l[u_m]_i + [u_n]_l[u_n]_i[u_m]_k[u_m]_j}{ \lambda_n - \lambda_m} $$

Answer 2

@Andrei solución es muy bonito, pero me he encontrado con la wikipedia en parte un poco difícil de leer, por lo que para su integridad, voy a añadir un simplificada de las pruebas para determinar el $\frac{\partial [u_i]_l}{\partial A_{st}}$ donde $u_i$ es el $i$ésimo vector propio de a$A$.

Considere la posibilidad de la $i$th autovalor/vector propio par de $A$, donde $Au_i = \lambda_i u_i$.

Utilizamos el análisis de perturbación al tomar la derivada de $Au_i=\lambda_iu_i$ a través de la regla del producto $$ \partial Un u_i + A\partial u_i = \partial \lambda_i u_i + \lambda_i \partial u_i. $$ Ahora $\partial u_i$ es un vector en $\mathbb R^n$, y asumimos que los vectores propios $u_1,...,u_n$ se normalizan, y por lo tanto forman una base ortonormales para $\mathbb R^n$. Por lo tanto, no existe $c_{ik}$ para $k = 1,...,n$ tales que $$ \partial u_i = \sum_{k=1}^n c_{ik} u_k. $$ Sustituimos la izquierda multiplicar por $u_j^T$, y simplificar la con $Au_k = \lambda_ku_k$ conseguir $$ u_j^T\partial Un u_i + c_{ij}\lambda_j = \partial \lambda_i u_j^Tu_i + \lambda_i c_{ij}. $$ Cuando $i = j$, esto se reduce a $$ u_i^T\partial Un u_i = \partial \lambda_i $$ que luego se puede utilizar para encontrar la pendiente de la norma espectral. Cuando $i\neq j$, esto se reduce a $$ \frac{ u_j^T\partial Un u_i }{\lambda_i-\lambda_j }= c_{ij}. $$ La expansión de cabo da $$ \partial u_i = c_{ii}u_i + \sum_{k\neq i} \frac{ u_i^T\partial Un u_k }{\lambda_i-\lambda_k } u_k = c_{ii}u_i + \sum_{k\neq i} \sum_{s,t=1}^n \frac{ \partial A_{s,t}[u_i]_s[u_k]_t }{\lambda_i-\lambda_k } u_k $$ Por lo tanto, obtenemos $$ \frac{\partial [u_i]_l}{\partial A_{s,t}} =\sum_{k\neq i} \frac{ [u_i]_s[u_k]_t[u_k]_l}{\lambda_i-\lambda_k } $$

El resto se sigue de @Andrey de respuesta.