Restricción:
$$a x^2 + b y^2 = ab$$
...pueden ser reemplazados con el siguiente:
$$x=\sqrt{b}\cos\varphi,\quad y=\sqrt{a}\sin\varphi$$
Así que la función que necesitamos para minimizar/maximizar convierte en:
$$u(x,y)=u(\varphi)=b\cos^2\varphi+a\sin^2\varphi+\sqrt{ab}\sin\varphi\cos\varphi$$
...o (mediante la aplicación de algunos bastante elemental trigonometría):
$$u(\varphi)=\frac{a+b}{2}-\frac{a-b}{2}\cos2\varphi+\frac{\sqrt{ab}}{2}\sin2\varphi$$
Puede ser fácilmente demostrado (siéntase libre de preguntar) que cualquier armónico de la forma:
$$f(\alpha)=P\cos\alpha+Q\sin\alpha$$
...ha amplitud:
$$R=\sqrt{P^2+Q^2}$$
...con las siguientes extremos:
$$f_{max}=+R,\quad f_{min}=-R$$
En nuestro caso:
$$P=-\frac{a-b}2,\quad Q=\frac{\sqrt{ab}}{2}\implies R=\frac12\sqrt{a^2-ab+b^2}$$
Esto le da la siguiente extremal valores:
$$u_{min}=\frac{a+b}{2}-\frac12\sqrt{a^2-ab+b^2}$$
$$u_{max}=\frac{a+b}{2}+\frac12\sqrt{a^2-ab+b^2}$$
Una ecuación cuadrática:
$$u^2+Bu+C=0$$
...con $u_{min}$, $u_{max}$ como las soluciones deben tener los siguientes coeficientes:
$$B=-(u_{min}+u_{max})=-(a+b)$$
$$C=u_{min}u_{max}=\frac34ab$$
Así que tenemos la siguiente ecuación cuadrática:
$$u^2-(a+b)u+\frac34ab=0$$
$$4u^2-4(a+b)u+4ab=ab$$
...o finalmente:
$$4(u-a)(u-b)=ab$$
La solución más obvia (Lagrange mulitplier) es a menudo no el más sencillo.