Mi análisis: Se puede demostrar que el segundo término es convexo de la siguiente manera. Básicamente es una composición de norma con una transformación afín a la potencia de cuatro: $(x_1^2+x_2^2+x_3^2+1)^2 = \|(x_1^2, x_2^2, x_3^2, 1)^T\|^4$ . Sabemos que (1) la norma es convexa (2) la composición de la norma como función convexa con una transformación afín es convexa y (3) elevar a la potencia de un número par, es decir, 4, preserva la convexidad de una función convexa. Por lo tanto, el término anterior es una composición de una función convexa no decreciente, es decir, potencia de cuatro, con una transformación afín de una norma y por lo tanto $(x_1^2+x_2^2+x_3^2+1)^2$ es convexa.
El primer plazo es un reto para mí. Sé que $2x_1^2+3x_2^2+x_3^2+4x_1x_2$ puede escribirse como $\mathbf{x}^T A \mathbf{x}$ donde $$ A= \left[ \begin{array}{ccc} 2 & 2 & 0 \\ 2 & 3 & 0 \\ 0 & 0 & 1 \end{array} \right] $$
Es fácil comprobar que todos los valores propios de $A$ son estrictamente positivos, lo que hace que $\mathbf{x}^T A \mathbf{x}$ convexo. Por lo tanto, $2x_1^2+3x_2^2+x_3^2+4x_1x_2+7$ es convexa. Ahora, el problema es que la raíz cuadrada es cóncava y no conserva la convexidad. ¿Cómo debo proceder a partir de aquí?