Para encontrar la distancia angular entre los dos puntos, que se define por dos ángulos de cada uno, es un problema clásico en astronomía esférica y en la geografía.
Si las dos coordenadas son: $\phi=$ascensión recta (longitud en geografía) y $\theta=$ declinación (latitud). Que la distancia angular $\alpha$ entre los dos puntos de $A,b$ está dada por ( aquí una prueba de Gran arco de la distancia entre dos puntos en una unidad de la esfera, pero tenga en cuenta que aquí el ángulo de $\theta$ es la que se utiliza en coordenadas esféricas, por lo que es el complemento de la latitud):
$$
\cos \alpha= \sin \theta_A\sin \theta_B+\cos \theta_A\cos \theta_B\cos(\phi_A-\phi_B)
$$
Podemos usar esta fórmula para resolver el problema en la OP.
Deje $(\phi_C,\theta_C)$ de las coordenadas del centro de un círculo sobre una superficie esférica. Los puntos de $P$ de los círculos tienen coordenadas $(\phi,\theta)$ de manera tal que la distancia angular entre el $P$ $C$ es un valor constante $\rho$ (que es el cociente entre el radio del círculo y el radio de la esfera), de manera que la ecuación de la circe puede ser escrita como:
$$
\cos \rho=\sin \theta\sin \theta_C+\cos \theta\cos \theta_C\cos(\phi\phi_C)
$$
Ahora nos tenga en cuenta que esta ecuación contiene tres parámetros $\rho,\phi_C,\theta_C$, por lo que, en principio, podemos encontrar este parámetros sustituyendo las coordenadas de tres puntos para$\phi$$\theta$. Nunca he realizado estos cálculos, pero se parece un poco complejos.
Supongo que la manera más sencilla de resolver el problema en el OP es el cambio a coordenadas cartesianas y a encontrar la intersección entre el plano determinado por los tres puntos y la esfera, como se sugiere en los comentarios.
