Hay más maneras de resolver esos problemas.
Desde $f(a,b) = ab^2 - ba^2$ es continua y diferenciable, y el dominio de $0 \le a \le b \le 1$ es un compacto simplex, que alcanza su máximo y mínimo en uno de los siguientes puntos:
Un punto donde la $0 < a < b < 1$$\nabla f (a,b) = 0$, es decir, $f_x(a,b) = f_y(a,b) = 0$
Un punto donde $a = 0$, $0 < b < 1$, y $f_y(a,b) = 0$
Un punto donde $0 < a < 1$, $b = 1$, y $f_x(a,b) = 0$
Un punto donde la $0 < a = b < 1$, e $f_x(a,b) + f_y(a,b) = 0$
Un punto donde la $a = b = 0$ o $a = b = 1$.
Calcular que $f_x(a,b) = b^2 - 2ab$, $f_y(a,b) = 2ab - a^2$.
No hay puntos de tipo (1).
Tipo (2) puntos son nada en la línea, y aquí $a = 0$$f(a,b) = 0$.
Tipo (3) puntos de satisfacer $b = 1$, lo $1 - 2a = 0$, lo $a = \frac12$, y aquí $f(a,b) = \frac12 - \frac14 = \frac14$. Tipo de (4) puntos, todos tienen $f(a,b) = 0$.
Finalmente, los dos tipo (5) puntos de $f(0,0) = 0$$f(1,1) = 0$.
Así, el mínimo de $f$ $0$ y el máximo es de $\frac14$, en este dominio.