Completar el cuadrado y dejar $t=x+1$ obtengo $$\int\sqrt{(x+1)^2+2} \ dx=\int\sqrt{t^2+2}\ dt.$$
Dejar $u=t+\sqrt{t^2+2},$ Me sale
\begin{array}{lcl} u-t & = & \sqrt{t^2+2} \\ u^2-2ut+t^2 & = & t^2+2 \\ t & = & \frac{u^2-2}{2u} \\ dt &=& \frac{u^2+2}{2u^2}du \end{array}
Así, la integral se convierte en
$$F(x)=\int \left(u-\frac{u^2-2}{2u}\right)\left(\frac{u^2+2}{2u^2}\right) \ du = \int \left(\frac{u^2+2}{2u}\right)\left(\frac{u^2+2}{2u^2}\right) \ du =\int\frac{u^4+4u^2+4}{4u^3} \ du.$$
Este integrando está bien dividido en
\begin{array}{lcl} F(x) & = & \frac{1}{4}\int u \ du+\int \frac{1}{u} \ du+\int \frac{1}{u^3}=\frac{u^2}{8}+\ln{|u|}-\frac{1}{2u^2}+C \\ & = & \frac{(t+\sqrt{t^2+2})^2}{8}+\ln{|t+\sqrt{t^2+2}|}-\frac{1}{2(t+\sqrt{t^2+2})^2}+C \\ \end{array}
Y por último, en términos de $x$ :
$$F(x)=\frac{(x+1+\sqrt{x^2+2x+3})^2}{8}+\ln{|x+1+\sqrt{x^2+2x+3}|}-\frac{1}{2(x+1+\sqrt{x^2+2x+3})^2}+C.$$
La respuesta en el libro es:
$$F(x)=\frac{1}{2}\left((x+1)\sqrt{x^2+2x+3}+2\ln{|x+1+\sqrt{x^2+2x+3}}|\right)+C.$$
¿Puede alguien ayudarme a identificar en qué me he perdido?