Aquí hay un intento totalmente analítico. Deje que $(x_1,0), (1,y),(x_2,1)$ sean los vértices del triángulo inscrito en el cuadrado unitario $[0,1]^2$. Dado que solo uno de ellos puede estar en un vértice del cuadrado, permitiremos solo que $x_1 \in [0,1\rangle$ y $x_2,y \in \langle 0,1\rangle$. También podemos asumir que $x_1 \le x_2$. La longitud del lado más pequeño está dada por la función $f : \{(x_1,x_2,y) \in [0,1\rangle \times \langle 0,1\rangle^2 : x_1\le x_2\}\to \Bbb{R}$ definida como $$f(x_1,x_2,y) = \min\left\{\sqrt{(x_2-x_1)^2+1},\sqrt{(1-x_1)^2+y^2},\sqrt{(1-x_2)^2+(1-y)^2}\right\}.$$ Sea $(x_1,x_2,y)$ el triple que maximiza $f$. Supongamos que este triángulo no es equilátero. Entonces podemos desplazar un poco los vértices para que el mismo lado siga siendo el más pequeño pero un poco más grande que antes. Por ejemplo, si $$\sqrt{(x_2-x_1)^2+1} < \sqrt{(1-x_1)^2+y^2}, \sqrt{(1-x_2)^2+(1-y)^2}$$ entonces por continuidad existe un $\varepsilon > 0$ tal que $$\sqrt{((x_2+\varepsilon)-x_1)^2+1} < \sqrt{(1-x_1)^2+y^2}, \sqrt{(1-(x_2+\varepsilon))^2+(1-y)^2}$$ y por lo tanto $$f(x_1,x_2+\varepsilon,y) =\sqrt{((x_2+\varepsilon)-x_1)^2+1} > \sqrt{(x_2-x_1)^2+1} = f(x_1,x_2,y)$$ lo cual contradice la maximalidad de $(x_1,x_2,y)$. Similarmente en los otros casos.
Concluimos que el triángulo es equilátero, así que en particular $$f(x_1,x_2,y) = \sqrt{(x_2-x_1)^2+1}=\sqrt{(1-x_1)^2+y^2}=\sqrt{(1-x_2)^2+(1-y)^2}.$$ El término $\sqrt{(1-x_1)^2+y^2}$ es maximizado cuando $x_1 = 0$ (ya que $y=1$ no está permitido). Por lo tanto $$f(x_1,x_2,y) = \sqrt{x_2^2+1}=\sqrt{1+y^2}=\sqrt{(1-x_2)^2+(1-y)^2}.$$ y por lo tanto $y=x_2$ y $1+y^2=2(y-1)^2$. Esto da como resultado $$x_1=0,\quad x_2=y=2-\sqrt{3}$$ y $f(x_1,x_2,y) = \sqrt{1+y^2} = \sqrt{6}-\sqrt{2}$.