He aquí una respuesta con un poco de sabor geométrico.
Claramente, el hiperboloide no contiene líneas paralelas a ninguno de los ejes de coordenadas; tampoco contiene puntos $(x,y,z)$ tal que $x^2 + y^2 < 1$ . En consecuencia, una línea incrustada $\ell$ debe pasar por un punto $P$ en el $xy$ -que, de hecho, debe estar en el círculo unitario; podemos escribir $P = (\cos\theta, \sin\theta, 0)$ para algunos $\theta$ . Además, la proyección de $\ell$ en el $xy$ -debe ser tangente al círculo unitario, por lo que su vector de dirección, $v$ tiene la forma $(\sin\theta,-\cos\theta,c)$ para algunos $c$ . Es decir, la línea tiene esta parametrización: $$\ell : (\cos\theta, \sin\theta, 0 ) + t (\sin\theta,-\cos\theta, c)$$ y tenemos $$0 = x^2 + y^2 - z^2 - 1 = (\cos\theta+t\sin\theta)^2+(\sin\theta-t\cos\theta)^2+(ct)^2-1 =t^2(c^2-1)$$ que debe ser válida para todos los $t$ para que $c=\pm 1$ .
Desde $P$ está en el avión: $$A \cos\theta + B \sin\theta + D = 0 \qquad \implies \qquad D = -\left(A \cos\theta+ B \sin\theta\right)$$ Desde $v \perp (A,B,C)$ : $$v\cdot(A,B,C) = A\sin\theta - B\cos\theta \pm C = 0 \qquad \implies \qquad C = \mp \left( A \sin\theta - B \cos\theta \right)$$
Por lo tanto, $$C^2 + D^2 = A^2 + B^2 \qquad (\star)$$
Nota: Hemos demostrado que $(\star)$ es válida siempre que el plano se encuentre con el hiperboloide en un solo línea. Esto es coherente con el hecho de que $(\star)$ sólo elimina un solo grado de libertad en la ecuación del plano.