demostrar que es una función fuertemente convexa

Question

La definición de fuertemente convexo de Wikipedia :

No es necesario que una función sea diferenciable para que sea fuertemente convexa. Una tercera definición de función fuertemente convexa, con parámetro $m$ es que, para todos los $x$ , $y$ en el dominio y $t\in [0,1]$ , $$f(tx+(1-t)y) \le t f(x)+(1-t)f(y) - \frac{1}{2} m t(1-t) \|x-y\|_2^2.$$

Demuestra que la norma 2 al cuadrado $f(w) = m\|w\|^2 $ es m fuertemente convexo

Hasta ahora he intentado utilizar la desigualdad del triángulo pero no puedo derivar ese último término negativo.

Answer 1

La clave es utilizar el hecho de que el $2$ -La norma viene de un producto interno. Tenemos \begin{align*} f(tx+(1-t)y)-t(f(x)-(1-t)f(y)&=mt^2||x||^2+2mt(1-t)\langle x,y\rangle+m(1-t)^2||y||^2\\ & - mt||x||^2-m(1-t)||y||^2\\ &=mt(t-1)||x||^2+m(1-t)(1-t-1)||y||\\ &+2mt(1-t)\langle x,y\rangle\\ &=-mt(1-t)||x||^2+2mt(1-t)\langle x,y\rangle -mt(1-t)||y||^2\\ &=-mt(1-t)(||x||^2-2\langle x,y\rangle+||y||^2)\\ &=-mt(1-t)||x-y||^2\\ &\leq -\frac 12mt(1-t)||x-y||^2 \end{align*} desde $mt(1-t)||x-y||^2\geq 0$ .

Answer 2

Si la función $f$ es dos veces continuamente diferenciable, entonces es fuertemente convexo con parámetro $\mu>0$ si y sólo si $\nabla^2 f(x) \succeq \mu I$ para todos $x$ en el dominio, donde $I$ es la identidad y $\nabla^2f$ es la matriz hessiana, y la desigualdad $\succeq$ significa que $\nabla^2 f(x) - \mu I$ es semidefinido positivo.

La definición anterior es equivalente a la definición dada por el OP si $f$ es dos veces continuamente diferenciable (véase aquí para más detalles).

La función $f(w)=m\|w\|^2$ es dos veces continuamente diferenciable. Tenemos que $$ \nabla f(w)=2mw \quad\text{and}\quad\nabla^2f(w)=2mI. $$ Por lo tanto, la función $f$ es fuertemente convexo con el parámetro $2m$ .