¿Por qué es la norma espectral de una ponderación de la matriz de una red de Hopfield inferior o igual a $1$?

Question

Podemos definir la ponderación de la matriz de $W$ como sigue

$$W := \frac{1}{Md}\left[\sum_{m=1}^{M}x^{(m)}(x^{(m)})^{T}\right] - \frac 1d \Bbb I_d$$

donde $\Bbb I_d$ $d \times d$ matriz identidad y $x^{(m)} \in \{\pm 1\}^d$. ¿Por qué es $\| W \|_2 \leq 1$?

---

Para su referencia, la afirmación de que $\| W \|_2 \leq 1$ se hizo en la página 4 aquí, en la parte inferior izquierda.

Answer 1

Considere la matriz $ A=\frac{1}{M}\sum\limits_{m=1}^{M}x^{(m)}(x^{(m)})^{T}: $ $$ |A_{i,j}| = \left|\frac{1}{M}\sum\limits_{m=1}^{M}x_i^{(m)}x^{(m)}_j\right| \leq 1. $$ Por otra parte, elementos de la diagonal $A_{i,i} = \frac{1}{M}\sum\limits_{m=1}^{M}\left(x_i^{(m)}\right)^2 = 1$. Vamos a $B = A - \Bbb I_d$, $$|B_{i,j}| = |(A-\Bbb I_d)_{i,j}| \leq 1$$

Ahora, para $W = \frac{1}{d}B$ y un vector arbitrario $x$ hemos $$ \|Wx\| = \frac{1}{d}\|Bx\| = \frac{1}{d}\sqrt{\sum_i\left(\sum_jB_{i,j}x_j\right)^2} \leq \frac{1}{d}\sqrt{\sum_i\left(\sum_jB_{i,j}^2\right)\left(\sum_jx_j^2\right)} \leq \\ \le \frac{1}{d}\sqrt{d^2 \|x\|^2} = \|x\|, $$ lo que significa que $\|W\| \leq 1$.