Querías $\;s=\sqrt{u^2-1}$, por lo que $\;s^2=u^2-1$, $\;2s\,ds=2u\,du$, y $\;s\,ds=u\,du$.
Sustituyendo nos da:
$$
\begin{align}\int\frac{du}{u\sqrt{u^2-1}} &= \int\frac{u\,du}{u^2 \sqrt{u^2-1}} \\&= \int\frac{s\,ds}{(s^2+1)s}\\&= \int\frac{ds}{s^2+1} \\ \\&= \arctan s + C.
\end{align}
$$
Ahora no te olvides de "volver sustituto": $s = \sqrt{u^2-1} = \sqrt{(x+1)^2 - 1} = \sqrt{x^2 + 2x}$
Así que nuestra respuesta es: $$\quad\arctan(\sqrt{x^2 + 2x}) + C$$
Tenga en cuenta que con trigonométricas sustitución, y trigonométricas de soluciones, puede haber cualquier número de soluciones (constantes puede variar), como es evidente por el número de identidades trigonométricas! E. g.:
$$\arctan\sqrt{x^2+2x}-\left(\arcsin\left(\frac1{x+1}\right)-\frac\pi2\right) = 0$$
$$-\arcsin\frac1{x+1}=\arctan\sqrt{x^2+2x}-\text{ constant} = \arctan \sqrt{x^2 + 2x} + C$$
Para comprobar su integración respuestas, siempre se puede tomar la derivada de sus soluciones, y si se puede derivar el original integrando, que son "buenos para ir." Intentar diferenciar cada solución (la tuya y la del texto) y ambos le dará el equivalente de su original integrando.