Esencialmente estás preguntando por el centro del círculo que circunscribe el triángulo definido por $A, B$ y $C$ . Observa que esto es mucho más sencillo que calcular la ecuación de una circunferencia, ya que estamos trabajando con un objeto geométrico mucho más simple: un triángulo.
¿Cómo se halla el circuncentro (es decir, el centro de la circunferencia)?
Hallar la intersección de dos rectas bisectrices del segmento del triángulo descrito por $A, B$ y $C$ .
¿Cómo puedes proyectar este punto sobre la esfera?
Divide por la norma de este punto.
Observe que si este círculo tiene su centro en $(0, 0, 0)$ no puedes resolver este problema.
Actualización: más información sobre la distancia geodésica de los puntos al circuncentro proyectado
Ver que las distancias geodésicas al centro de la circunferencia proyectada desde cualquiera de los 3 puntos dados, equivale a demostrar que los triángulos descritos por el origen, $O$ en un punto determinado (lo denominaremos $X$ donde $X$ puede ser $A, B$ o $C$ ) y el circuncentro proyectado, $G$ son el mismo triángulo.
Nos referiremos al circuncentro del triángulo descrito por los puntos $A, B$ y $C$ como $F$ .
Obsérvese que los segmentos $\overline{OG}$ y $\overline{OX}$ son de longitud $1$ ya que son radios de la esfera. Así que el problema se reduce a demostrar que todos $\overline{GX}$ tienen la misma longitud.
Ahora, centrémonos en el triángulo $\triangle XFG$ Obsérvese que no importa cuál sea el punto $X$ el ángulo $\angle XFG$ es de $\frac{\pi}{2}$ radianes. El segmento $\overline{XF}$ es igual al radio de la circunferencia, y todos estos triángulos comparten el segmento $\overline{FG}$ .
Así que usando el criterio de triángulo congruente de 2 lados iguales y ángulo igual formado por 2 esos lados, todos estos triángulos son congruentes. No sólo esto, sino que son congruentes y tienen 2 lados de igual longitud, por lo que no es difícil deducir que el tercer lado, $\overline{GX}$ son todos de la misma longitud.
Así, podemos deducir que la distancia geodésica es la misma (demostrando que los triángulos $\triangle XOG$ son congruentes significa que los ángulos $\angle XOG$ son todos iguales y, por tanto, los arcos de circunferencia tienen la misma longitud).