Como comentó Marty Cohen, deshacerse de $y$ sustituyéndolo y $y=a+b-x$ . Esto lleva a $$f(x)=x \sqrt{a^2+x^2}+(a+b-x)\sqrt{(a+b-x)^2+b^2} $$ La conducción "parece" sencilla $$f'(x)=\sqrt{a^2+x^2}+\frac{x^2}{\sqrt{a^2+x^2}}-\frac{(a+b-x)^2}{\sqrt{(a+b-x)^2+b^2}}-\sqrt{(a+b-x)^2+b^2}$$ Comprobemos primero algunos valores (teniendo en cuenta que $a$ y $b$ son positivos) $$f'(a)=\frac 3 {\sqrt 2 }(a-b)$$ $$f'(b)=\frac{b^2-a^2}{\sqrt{a^2+b^2}}$$ Así que, excepto si $a=b$ No se trata de puntos críticos.
Lo que me está dando miedo es que, por cuadratura sucesiva, lleguemos (trabajo tedioso, seguro) a una ecuación péntica en $x$ $$A+Bx+Cx^2+Dx^3+Ex^4+8x^5=0$$ donde $$A=-3 a^5-11 a^4 b-15 a^3 b^2-9 a^2 b^3$$ $$B=14 a^4+32 a^3 b+24 a^2 b^2$$ $$C=-23 a^3-33 a^2 b-15 a b^2-9 b^3$$ $$D=24 a^2+32 a b+24 b^2$$ que no muestra soluciones analíticas.
Como ha comentado Marty Cohen, esto parece ser un problema bastante complicado.
Si asumimos $b=a$ la ecuación péntica se convierte en $$f'(x)=-38 a^5+70 a^4 x-80 a^3 x^2+80 a^2 x^3-40 a x^4+8 x^5$$ y dejar que $x=az$ $$4 z^5-20 z^4+40 z^3-40 z^2+35 z-19=0$$ que sólo tiene una raíz real $z=1$ . Bajo todos estos supuestos, para $x=a=b$ , $f(a)=2 \sqrt{2} a^2$ .
Pero todavía tenemos que demostrar que se trata de un mínimo. Entonces (divertido de nuevo), calculemos la segunda derivada aún asumiendo $b=a$ y finalmente conseguimos $f''(a)=\frac{5}{\sqrt{2}} >0$ . ¡¡Por lo tanto, este punto es un mínimo !!
Y, si $x=a$ entonces $y=b$ .
Editar
Pongamos $b=ka$ y $x=az$ Esto hace que $$-\left(9 k^3+15 k^2+11 k+3\right)+\left(24 k^2+32 k+14\right) z-\left(9 k^3+15 k^2+33 k+23\right) z^2+8 \left(3 k^2+4 k+3\right) z^3-20 (k+1) z^4+8 z^5=0$$
Intentando con valores enteros de $k$ Tengo las siguientes soluciones para $z_k$ . $$\left( \begin{array}{cc} k & z_k \\ 1 & 1.00000 \\ 2 & 1.60016 \\ 3 & 2.20155 \\ 4 & 2.80458 \\ 5 & 3.40892 \\ 6 & 4.01422 \\ 7 & 4.62018 \\ 8 & 5.22663 \\ 9 & 5.83344 \\ 10 & 6.44052 \\ 11 & 7.04780 \\ 12 & 7.65525 \end{array} \right)$$
Lo interesante es que parece que $$z_k=1+0.604247 (k-1)\qquad \qquad (R^2=0.999999)$$ Por lo tanto, hay soluciones para cualquier valor de $k$ .