Si desea buscar en la concavidad/convexidad de $f$ entonces usted está probablemente va a tener que encontrar los rangos de la discusión de las variables sobre las que cada una de las sub-funciones es la maximización de uno. Esto le permitirá escribir $f$ como una pieza de sabios función continua y usted puede encontrar su derivada segunda vía ordinaria cálculo de las técnicas. Para ello, definir las sub-funciones:
$$\begin{equation} \begin{aligned}
f_1(x_1,x_2) &= x_1^6, \\[6pt]
f_2(x_1,x_2) &= e^{x_1+3x_2^2}, \\[6pt]
f_3(x_1,x_2) &= 3x_1^2-x_1x_2+x_2^4-\log(x_2+2),
\end{aligned} \end{equation}$$
y definir la elección de la función:
$M $(x_1,x_2) = \begin{cases}
1 & & \text{for } f_1(x_1,x_2) > \max(f_2(x_1,x_2), f_3(x_1,x_2)), \\[6pt]
2 & & \text{for } f_2(x_1,x_2) > \max(f_1(x_1,x_2), f_3(x_1,x_2)), \\[6pt]
3 & & \text{otherwise}. \\[6pt]
\end{casos}$$
Su función ahora puede ser escrita como:
$$f(x_1,x_2) = \sum_{m=1}^3 f_{m}(x_1,x_2) \cdot \mathbb{I}(M(x_1,x_2) = m).$$
Por lo tanto, en todos los puntos a otros de los límites de los cambios de $M$, la segunda derivada (matriz Hessiana de la función es:
$$\nabla^2 f(x_1,x_2) = \sum_{m=1}^3 \nabla^2 f_{m}(x_1,x_2) \cdot \mathbb{I}(M(x_1,x_2) = m).$$
Cada matriz Hessiana para la sub-funciones pueden ser fácilmente obtenidos a partir de la diferenciación de las funciones. Esto ahora le da la curvatura de su función, expresado en términos de la curvatura de las funciones subyacentes. Para implementar esto para encontrar la curvatura en un punto en particular, simplemente tienes que encontrar los límites de las regiones de la demarcación de los diferentes valores de $M$.
Encontrar los límites: no voy a hacer esto, pero voy a empezar. La comparación de las dos primeras de estas funciones tiene:
$$f_1(x_1,x_2) > f_2(x_1,x_2) \quad \quad \iff \quad \quad |x_2| < \sqrt{\max(0, 2 \ln|x_1| - \tfrac{1}{3} x_1}).$$
Por lo tanto, se tiene:
$$\max(f_1(x_1,x_2), f_2(x_1,x_2)) = \begin{cases}
x_1^6 & & \text{for } |x_2| < \sqrt{\max(0, 2 \ln|x_1| - \tfrac{1}{3} x_1}), \\[6pt]
e^{x_1+3x_2^2} & & \text{for } |x_2| \geqslant \sqrt{\max(0, 2 \ln|x_1| - \tfrac{1}{3} x_1}). \\[6pt]
\end{casos}$$
Si usted va a mantener usted puede encontrar los límites entre esta función y $f_3$ y finalmente ser capaz de escribir las condiciones de los límites de $M$.