¿Cómo demostrar que una función matricial es convexa o no convexa?

Question

Tengo una función de tres variables matriciales. Pero ahora, los autores fijan dos de ellas, y luego actualizan una, y no puedo entender cómo esta función es convexa en cada iteración en el papel.

Esta fórmula es :
$$f(W,V,B) =\|XW-V\|^2_F +\|Y-VB\|^2_F +\operatorname{tr}(V'LV) +2\operatorname{tr}(W'DW),$$ donde $X$ , $Y$ son matrices constantes y $L$ es una matriz de laplace constante. Supongamos que $D$ es una matriz diagonal constante.

Ahora, fijamos dos variables $W$ y $V$ y, a continuación, actualice $B$ . ¿Cómo resolverlo?

Si no fijamos ninguna variable, ¿cómo se explica que la función objetivo no sea convexa?

En general, utilizamos la matriz hessiana, pero ¿qué debo hacer cuando la variable es una matriz?

Answer 1

Quiero dar una respuesta a la primera pregunta, ampliando lo que ya se insinuó. El objetivo es demostrar que la función $B \mapsto f(V,W,B) $ es convexo para cada $V,W$ fijo (y que se encuentra en algún espacio no especificado por el OP). Dado que $B$ aparece sólo en el segundo término, lo investigamos solo: $$ \| Y - VB \|_F ^2 = \langle Y - VB , Y - VB \rangle_F = \|Y\|_F ^2 + \|V B \|_F^2 - 2 \langle Y , VB \rangle_F. $$ Para $B_1$ y $B_2$ obtenemos las matrices $$ \begin{split} \| Y - V (tB_1 + (1-t)B_2) \|_F ^2 & =\|Y\|_F ^2 + \|V (tB_1 + (1-t)B_2) \|_F^2 - 2 \langle Y , V(tB_1 + (1-t)B_2) \rangle_F \\ & \le \|Y\|_F ^2 + t \| VB_1 \|_F ^2 + (1-t) \|VB_2 \|_F ^2 \\ & - 2( t \langle Y ,VB_1\rangle_F + (1-t)\langle Y ,VB_2\rangle _F) \end{split} $$ donde he utilizado la (bi)linealidad del producto interior y el hecho elemental de que si $f,g $ son dos funciones convexas con $g$ no decreciente, entonces $g \circ f$ es una función convexa; en nuestro caso concreto $ g(x) = x^2$ y $f (X) = \|X\|_F$ (las normas son convexas).