Norma del vector de pesos de SVM

Question

Al resolver un problema primal de SVM de margen difícil, obtenemos: $$ w = \sum{\alpha_i y_i x_i} \\ \sum{a_i y_i} = 0 $$

Donde $\alpha$ es el vector de multiplicadores de Lagrange. Después de resolver para $w$ (usando el problema dual) también podemos resolver para $b$ (el sesgo) con uno de los vectores de soporte mediante $$y_i(wx_i+b)=1$$

Dado eso, estoy buscando una manera de demostrar que $$\lVert w \rVert ^2 = \sum{\alpha_i}$$

Gracias.

Answer 1

Multiplica ambos lados de la tercera expresión con $\alpha_i$ y suma $\forall i$: $$A=\sum_i \alpha_iy_i(w^Tx_i+b)=\sum_i\alpha_i$$ RHS es lo que queremos, el LHS se puede evaluar como: $$A=w^T\left(\sum_i{\alpha_i y_i x_i}\right)+b\sum_i{\alpha_i y_i}=w^Tw+0=||w||^2$$