La misma distancia máxima se produce en cada uno de los cuadrantes, por lo que se puede restringir la atención a $t\in[0,\pi/2]$. El vector tangente a $t$$(-a\sin t,b\cos t)$. Este vector es perpendicular a la línea, así que sólo tenemos que tomar el producto escalar de un vector unitario en esta dirección con el vector de posición con el fin de encontrar la distancia del origen a partir de la línea:
$$
\begin{eqnarray}
D
&=&
\left\lvert\frac{(-a\sin t,b\cos t)}{\sqrt{a^2\sin^2t+b^2\cos^2t}}\cdot(a\cos t,b\sin t)\right\rvert
\\
&=&
\frac{(a^2-b^2)\sin t\cos t}{\sqrt{a^2\sin^2t+b^2\cos^2t}}\;.
\end{eqnarray}$$
Diferenciando con respecto a $t$ rendimientos
$$\frac{a^2\sin^4 t-b^2\cos^4t}{\left(a^2\sin^2t+b^2\cos^2t\right)^{3/2}}\;,$$
y el ajuste a cero de los rendimientos
$$a^2\sin^4t=b^2\cos^4t\;,$$
$$t=\arctan\sqrt{\frac ba}\;.$$
El uso de $\cos t=1/\sqrt{1+\tan^2 t}$, podemos evaluar la $D$ en este parámetro:
$$
\begin{eqnarray}
D
&=&
\frac{(a^2-b^2)\sin t\cos t}{\sqrt{a^2\sin^2t+b^2\cos^2t}}
\\
&=&
\frac{(a^2-b^2)\tan t}{\sqrt{a^2\tan^2t+b^2}}\cos t
\\
&=&
\frac{(a^2-b^2)\tan t}{\sqrt{a^2\tan^2t+b^2}}\frac1{\sqrt{1+\tan^2 t}}
\\
&=&
\frac{(a^2-b^2)\sqrt{b/a}}{\sqrt{a^2(b/a)+b^2}}\frac1{\sqrt{1+b/a}}
\\
&=&
\frac{a^2-b^2}{a+b}\;.
\\
&=&
a-b\;.
\end{eqnarray}$$
El resultado, obviamente, apoya su idea de que puede ser una manera más simple de hacer esto.