No tengo el libro que mencionas, pero pude encontrar algo en mis apuntes de la clase de Mecánica Clásica del año pasado.
En primer lugar, si tu proyectil alcanza la velocidad de escape, entonces por supuesto se alejará de la Tierra para siempre, lo que responde a tu pregunta con $\infty$ . ¿Cuándo ocurre esto? La energía potencial del proyectil viene dada por:
$V(r) = -\frac{GMm}{r}$
Escaparemos del potencial de la Tierra, si tenemos suficiente energía para alcanzar el potencial en $r=\infty$ que obviamente corresponde a $V=0$ . Así que necesitamos al menos el potencial en el radio de la Tierra en energía cinética:
$K = \frac{1}{2}mv_0^2$
Por lo tanto,
$v_{escape}=\sqrt{\frac{2GM}{R_E}}$
Donde $G$ es la constante gravitacional, $M$ la masa de la Tierra, $m$ la masa de su proyectil y $R_E$ el radio de la Tierra (que es la distancia actual de tu proyectil al centro de la Tierra). Por lo tanto, si la velocidad del proyectil es mayor que esto, tenemos una órbita no limitada, y no hay altura máxima. Si es menor que esto, tenemos una órbita limitada, cuya trayectoria tenemos que calcular.
Ahora bien, la gravitación es una fuerza de ley cuadrática inversa radial de la forma $\textbf{F}=\frac{k}{r^2}\textbf{r}$ donde $\textbf{r}$ es un vector unitario que apunta radialmente hacia fuera. Como es atractivo $k<0$ (de hecho $k=-GMm$ ). Para estas fuerzas, una órbita limitada será elíptica, con el centro de la Tierra en uno de los focos de la elipse. Las ecuaciones que he podido encontrar permiten determinar la excentricidad $e$ y el recto semilatino $h$ que definen la elipse, a partir del momento angular y la energía total del proyectil.
$E = K + V = \frac{1}{2}mv_0^2-\frac{GMm}{R_E} \\ \textbf{L} = m\textbf{R}_E\times\textbf{v}_0=mR_Ev_0\sin(\theta_0) \\ h = -\frac{L^2}{mk} = \frac{L^2}{GMm^2} \\ e = \sqrt{1+\frac{2EL^2}{mk^2}}=\sqrt{1+\frac{2EL^2}{G^2M^2m^3}}$
Utilizando $e$ y $h$ podemos averiguar $r_A$ y $r_B$ La distancia desde el centro de la Tierra hasta el "perigeo" y el "apogeo" (los puntos más cercanos y más lejanos al centro de la Tierra, respectivamente). Para ello utilizamos las fórmulas estándar de las elipses:
$r_A = \frac{h}{1+e} \\ r_B = \frac{h}{1-e} \\$
Desde $e$ está entre $0$ y $1$ obviamente tenemos $r_B > r_A$ como se esperaba. Así que la mayor altura sobre la superficie de la Tierra sería entonces $r_B - R_E$ . Habríamos terminado aquí... si no existía la posibilidad de que el proyectil golpeara la superficie de la Tierra antes de alcanzar el apogeo (por ejemplo, porque $\theta_0>\pi/2$ ). Sinceramente estoy perdido a la hora de averiguar si el proyectil alcanza el apogeo, el perigeo o ambos, pero tengo la sensación de que si alcanza alguno de los dos, sería el apogeo como se requiere. Pero ahora mismo no puedo averiguarlo bien. Cuando lo haga, editaré la respuesta.