Considere un punto general $(x,y)$ dentro del triángulo, y que la distancia de $(x,y)$ de los vértices $(0,0),$ $\left(\frac12,\frac{\sqrt3}2\right),$ y $(1,0)$ sea $r_1$ , $r_2,$ y $r_3$ respectivamente. (Es decir, cada uno de $r_1$ , $r_2,$ y $r_3$ es una función de $(x,y)$ .)
Queremos encontrar un punto $(x,y)$ tal que $r_1 = r$ , $r_2 = r+a,$ y $r_3 = r+b,$ si tal punto existe, donde $r,$ $a,$ y $b$ se dan.
Entre otras cosas, $(x,y)$ debe satisfacer la condición $r_3 - r_1 = b.$ Esta condición define una rama de una hipérbola con focos en $(0,0)$ y $(1,0)$ , eje semimayor $\frac b2,$ y excentricidad $\frac 1b.$ En coordenadas polares $(\rho,\theta)$ la ecuación de esta hipérbola es $$ \rho = \frac{\frac b2\left(\left(\frac 1b\right)^2 - 1\right)} {1+\frac 1b\cos\theta} = \frac{1 - b^2}{2(b + \cos\theta)} $$
Pero $(x,y)$ también debe satisfacer $r_2 - r_1 = a,$ lo que la sitúa en una hipérbola con focos en $(0,0)$ y $\left(\frac12,\frac{\sqrt3}2\right),$ cuya ecuación es $$ \rho = \frac{1 - a^2}{2\left(a + \cos\left(\theta - \frac\pi3\right)\right)} $$
Dado que el punto deseado $(x,y)$ debe satisfacer $r_3 - r_1 = b$ y $r_2 - r_1 = a$ simultáneamente, tenemos $$ \frac{1 - b^2}{2(b + \cos\theta)} = \frac{1 - a^2}{2\left(a + \cos\left(\theta - \frac\pi3\right)\right)}. $$
La multiplicación cruzada, utiliza el hecho de que $\cos\left(\theta-\frac\pi3\right) = \frac{\sqrt3}2 \sin\theta + \frac12 \cos\theta,$ y recoger todo excepto el $\sin\theta$ términos juntos, y tenemos $$ \frac{\sqrt3}2(1 - b^2)\sin\theta = \left(\frac12 - a^2 + b^2\right) \cos\theta + b(1 - a^2) - a(1 - b^2).\tag1 $$
Dejemos que $u=\cos\theta$ (para que $\sin^2\theta = 1-u^2$ ); dejar $n=\frac34(1-b^2)^2,$ $m=\frac12 - a^2 + b^2,$ y $k=b(1 - a^2) - a(1 - b^2)$ ; reescribir la ecuación $1$ en esos términos; y elevar al cuadrado ambos lados. El resultado es $$ n(1-u^2) = (mu +k)^2, $$ lo que equivale a $$ (m^2 + n)u^2 + 2mku + k^2 - n = 0. $$ Resolver para $u$ mediante la fórmula cuadrática, \begin{align} u &= \frac{-2mk \pm \sqrt{4m^2k^2 - 4(m^2k^2+k^2n-m^2n-n^2)}}{2(m^2+n)} \\ &= \frac{-mk \pm \sqrt{m^2n+n^2-k^2n}}{m^2+n} \\ \end{align}
Las condiciones del problema requieren $0\leq\theta\leq\frac\pi3$ , por lo tanto $\cos\theta \geq \frac12.$ Además, $m>0$ y $k>0.$ De ello se desprende que sólo el $+$ caso del $\pm$ signo puede posiblemente conducir a una solución del problema original. Wolfram Alpha indica que $m^2n+n^2-k^2n$ es positivo cuando $0 < a < b < 1$ , por lo que no necesitamos comprobar el signo antes de sacar la raíz cuadrada.
Así que para encontrar $(x,y)$ dado $a$ y $b,$ fijamos $n,$ $m,$ y $k$ como descrito anteriormente, y luego calcular las siguientes cantidades en la secuencia indicada: \begin{align} u &= \frac{-mk + \sqrt{m^2n+n^2-k^2n}}{m^2+n}, \\ \rho &= \frac{1 - b^2}{2(b + u)}, \\ x &= \rho u, \\ y &= \rho \sqrt{1 - u^2}. \end{align}
¡Hecho!