¿Por qué la norma de Frobenius de una matriz es mayor o igual que la norma 2?

Question

¿Cómo puedes demostrarlo? $$\|A\|_2 \le \|A\|_F$$ No puedo usar: $$\|A\|_2^2 = \lambda_{max}(A^TA)$$ Tiene sentido que la norma 2 sea menor o igual que la norma de Frobenius, pero no sé cómo demostrarlo. Sí que lo sé:

$$\|A\|_2 = \max_{\|x\|_2 = 1} {\|Ax\|_2}$$

y sé que puedo definir la norma de Frobenius como

$$\|A\|_F^2 = \sum_{j=1}^n {\|Ae_j\|_2^2}$$ pero no veo cómo esto podría ayudar. Sin embargo, no sé cómo comparar las dos normas.

Answer 1

Escriba $x=\sum_{j=1}^nc_je_j$ para los coeficientes $c_1,\ldots,c_n$ . Supongamos que $\|x\|_2=1$ es decir $\sum_j |c_j|^2=1$ . Entonces \begin{align} \|Ax\|_2^2&=\left\|\sum_j c_j\,Ae_j\right\|_2^2\leq\left(\sum_j|c_j|\,\|Ae_j\|_2\right)^{2}\\ \ \\ &\leq\left(\sum_j|c_j|^2\right)\sum_j\|Ae_j\|_2^2=\sum_j\|Ae_j\|_2^2=\|A\|_F^2, \end{align} donde la desigualdad del triángulo se utiliza en la primera $\leq$ y Cauchy-Schwarz en el segundo.

Como $x$ era arbitraria, obtenemos $\|A\|_2\leq\|A\|_F$ .

Answer 2

De hecho, la prueba de $\left\| \mathbf{A}\right\|_2 =\max_{\left\| \mathbf{x}\right\|_2=1} \left\| \mathbf{Ax} \right\|_2$ a $\left\| \mathbf{A}\right\|_2 = \sqrt{\lambda_{\max}(\mathbf{A}^H \mathbf{A})}$ es sencillo. En primer lugar, podemos demostrar simplemente cuando $\mathbf{P}$ es hermético $$ \lambda_{\max} = \max_{\| \mathbf{x} \|_2=1} \mathbf{x}^H \mathbf{Px}. $$ Eso es porque cuando $\mathbf{P}$ es hermética, existe una y sólo una matriz unitaria $\mathbf{U}$ que puede diagonalizar $\mathbf{P}$ como $\mathbf{U}^H \mathbf{PU}=\mathbf{D}$ (así $\mathbf{P}=\mathbf{UDU}^H$ ), donde $\mathbf{D}$ es una matriz diagonal con valores propios de $\mathbf{P}$ en la diagonal, y las columnas de $\mathbf{U}$ son los correspondientes vectores propios. Sea $\mathbf{y}=\mathbf{U}^H \mathbf{x}$ y sustituirlo por $\mathbf{x} = \mathbf{Uy}$ al problema de optimización, obtenemos

$$ \max_{\| \mathbf{x} \|_2=1} \mathbf{x}^H \mathbf{Px} = \max_{\| \mathbf{y} \|_2=1} \mathbf{y}^H \mathbf{Dy} = \max_{\| \mathbf{y} \|_2=1} \sum_{i=1}^n \lambda_i |y_i|^2 \le \lambda_{\max} \max_{\| \mathbf{y} \|_2=1} \sum_{i=1}^n |y_i|^2 = \lambda_{\max} $$

Así, con sólo elegir $\mathbf{x}$ como el vector propio correspondiente al valor propio $\lambda_{\max}$ , $\max_{\| \mathbf{x} \|_2=1} \mathbf{x}^H \mathbf{Px} = \lambda_{\max}$ . Esto demuestra $\left\| \mathbf{A}\right\|_2 = \sqrt{\lambda_{\max}(\mathbf{A}^H \mathbf{A})}$ .

Y entonces, porque el $n\times n$ matriz $\mathbf{A}^H \mathbf{A}$ es semidefinido positivo, todos sus valores propios no son menores que cero. Supongamos que $\text{rank}~\mathbf{A}^H \mathbf{A}=r$ podemos poner los valores propios en un orden decreciente:

$$ \lambda_1 \geq \lambda_2 \geq \lambda_r > \lambda_{r+1} = \cdots = \lambda_n = 0. $$

Porque para todos $\mathbf{X}\in \mathbb{C}^{n\times n}$ , $$ \text{trace}~\mathbf{X} = \sum\limits_{i=1}^{n} \lambda_i, $$ donde $\lambda_i$ , $i=1,2,\ldots,n$ son valores propios de $\mathbf{X}$ ; y además, es fácil de verificar $$ \left\| \mathbf{A}\right\|_F = \sqrt{\text{trace}~ \mathbf{A}^H \mathbf{A}}. $$

Así, a través de $$ \sqrt{\lambda_1} \leq \sqrt{\sum_{i=1}^{n} \lambda_i} \leq \sqrt{r \cdot \lambda_1} $$ tenemos $$ \left\| \mathbf{A}\right\|_2 \leq \left\| \mathbf{A}\right\|_F \leq \sqrt{r} \left\| \mathbf{A}\right\|_2 $$

Answer 3

La norma de Frobenius es submultiplicativa, por lo que $||Ax||_F \leq ||A||_F ||x||_F$ , lo que da:

$$\forall x \neq 0 \quad \frac{ ||Ax||_2 } {||x||_2} = \frac{ ||Ax||_F } {||x||_F} \leq ||A||_F $$

Así que tienes un límite superior para el cociente, y como el supremum (aquí máximo) es por definición más pequeño que cualquier otro límite superior, obtienes inmediatamente:

$$ \underset{x \neq 0}{\max}{\frac{||Ax||}{||x||}} =||A||_2 \leq ||A||_F $$

Answer 4

Utiliza los dos hechos/propiedades siguientes:

1. La norma de Frobenius y la norma 2 coinciden para los vectores: $\|u\|_2 = \|u\|_{F}$ .
2. La norma de Frobenius es submultiplicativa: $\|AB\|_{F} \leq \|A\|_{F}\|B\|_{F}$ para cualquier matriz compatible $A$ , $B$ (en particular cuando, $B$ es un vector).

La prueba entonces es así: $$ \begin{align*} \|A\|_{2} &= \sup_{\|u\|_{2}=1}\|Au\|_{2} \quad \text{(Definition of 2-norm)}\\&= \sup_{\|u\|_{2}=1}\|Au\|_{F} \quad \text{(Property 1)} \\&\leq \sup_{\|u\|_{2}=1}\|A\|_{F}\|u\|_{F} \quad \text{(Property 2)}\\&= \sup_{\|u\|_{2}=1}\|A\|_{F}\|u\|_{2} \quad \text{(Property 1)}\\&= \|A\|_{F}\sup_{\|u\|_{2}=1}\|u\|_{2} \\&= \|A\|_{F}. \end{align*} $$

Answer 5

Lema. Si $x$ es un vector en $\mathbb R^n$ con un máximo de $r$ coordenadas no negativas, entonces $$ \|x\|_\infty \le \|x\|_2 \le \sqrt{r}\|x\|_\infty, $$ donde $\|x\|_p := \begin{cases}(\sum_{i=1}^n|x_i|^p)^{1/p},&\mbox{ if }1 \le p < \infty,\\\max_{i=1}^n|x_i|,&\mbox{ else.}\end{cases}$

Prueba. Busque en Google "equivalencia de normas Lp" (por ejemplo https://math.stackexchange.com/a/218129/168758 ). $\quad\quad\Box$

Ahora, aplique esto al vector de valores singulares $\sigma := (\sigma_1,\ldots,\sigma_n)$ de $A$ , señalando que $\|A\|_2 := \|\sigma\|_\infty$ y $\|A\|_F := \|\sigma\|_2$ .