Voy a calcular los límites
del numerador y el denominador por separado.
Para hacer esto más riguroso, imagino que
los dos límites están llevando a cabo
al mismo tiempo,
así que la final de la división se justifica.
$\sqrt{x+1}+\sqrt{x^2-1}-\sqrt{x^3+1}
=\sqrt{x+1}(1+\sqrt{x-1}-\sqrt{x^2-x+1})
$
así,
poner a $x = 1+y$
y el uso de $\sqrt{1+z} \approx 1+z/2$ pequeña $z$,
$\begin{align}
\lim_{x\to 1} \sqrt{x+1}+\sqrt{x^2-1}-\sqrt{x^3+1}
&= \lim_{x\to 1}\sqrt{x+1}(1+\sqrt{x-1}-\sqrt{x^2-x+1})\\
&= \lim_{y\to 0}\sqrt{y+2}(1+\sqrt{y}-\sqrt{1+2y+y^2-y-1+1})\\
&= \lim_{y\to 0}\sqrt{2}(1+\sqrt{y}-\sqrt{1+y+y^2})\\
&\approx \sqrt{2}(1+\sqrt{y}-(1+y/2))\\
&\approx \sqrt{2y}
\end{align}
$
Del mismo modo,
$\begin{align}
\sqrt{x-1}+\sqrt{x^2+1}-\sqrt{x^4+1}
&=\sqrt{y}+\sqrt{1+1+2y+y^2}-\sqrt{1+1+4y+6y^2+4y^2+y^4}\\
&=\sqrt{y}+\sqrt{2}(\sqrt{1+y+y^2/2}-\sqrt{1+2y+3y^2+2y^3+y^4/2})\\
&\approx \sqrt{y}+\sqrt{2}((1+y/2)-(1+y))\\
&= \sqrt{y}+\sqrt{2}(-y/2)\\
\end{align}
$
así
$\lim_{x\to 1} \sqrt{x-1}+\sqrt{x^2+1}-\sqrt{x^4+1}
= \lim_{y\to 0} \sqrt{y}+\sqrt{2}(-y/2)
= \lim_{y\to 0} \sqrt{y}
$.
La relación de estos dos es así
$ \lim_{y\to 0} \frac{ \sqrt{2y}}{\sqrt{y}}
= \sqrt{2}$