Un círculo en 3D se llama toro en matemáticas. Para un toro, que se encuentra en el plano x-y y está centrado en el origen, todos los puntos que pertenecen al toro están descritos por la ecuación
$$\left(R - \sqrt{x^2 + y^2}\right)^2 + z^2 = r^2,$$
donde $R$ es el radio "mayor" del toro y $r$ es el radio del "tubo". Si sólo quieres el cuarto superior izquierdo del toro, entonces tienes que restringir las soluciones a $x\leq 0$ y $y\geq 0$ .
Pero supongo que si tienes algún tipo de software para dibujar la tubería, no será capaz de encontrar todas las soluciones por ti. Así que probablemente tengas que calcular algunas soluciones numéricamente y luego dibujar un polígono o algo así. Si me dices qué tipo de entrada necesita tu software, quizá pueda darte más pistas.