No es demasiado difícil ver que el máximo sólo puede producirse por $a=\frac{1}{b}=\frac{1}{a}+b$.
Supongamos, por ejemplo, que $a<\min(\frac{1}{b},b+\frac{1}{a})$, entonces podemos aumentar el $a$ un poco y mejorar nuestra $m(a,b)$.
Para $\frac{1}{b}$ $b+\frac{1}{a}$ cosas similares suceden.
Por lo tanto $a=\frac{1}{b} = b+\frac{1}{a}$ implica $a = \sqrt{2}$$b = \frac{1}{2}\sqrt{2}$.
Comprobación de la respuesta es muy fácil:
Supongamos que $m(a,b)>\sqrt{2}$,$a>\sqrt{2}$$\frac{1}{b}>\sqrt{2}$. Pero, a continuación,$\frac{1}{a}<\frac{1}{2}\sqrt{2}$$b<\frac{1}{2}\sqrt{2}$, lo $b+\frac{1}{a}<\sqrt{2}$. Una contradicción.
Por lo tanto $m(a,b)\leq\sqrt{2}$ todos los $a$$b$. Ya sabemos que $m(\sqrt{2},\frac{1}{2}\sqrt{2})=\sqrt{2}$, por lo tanto esta es la óptima.