Definir la función $I(s)$ para $s > 0$ por
$$ I(s) = \int_{0}^{\infty} \frac{\operatorname{arccot}( \sqrt{x} - e^{s}\sqrt{x+1} )}{x+1} \, dx. $$
Al observar que $I(\infty) = 0$ tenemos
$$ I(s) = -\int_{s}^{\infty} I'(t) \, dt. $$
Aplicando la regla integral de Leibniz,
$$ I'(s) = \int_{0}^{\infty} \frac{e^{s}\sqrt{x+1}}{1 + (\sqrt{x} - e^{s}\sqrt{x+1} )^{2}} \, \frac{dx}{x+1}. $$
Ahora con la sustitución $x = \tan^{2}\theta$ ,
\begin{align*} I'(s) &= \int_{0}^{\frac{\pi}{2}} \frac{\sin\theta}{\cosh s - \sin\theta} = \frac{1}{2} \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \frac{\cos\theta}{\cosh s - \cos\theta}. \end{align*}
Entonces, con la sustitución $z = e^{i\theta}$ se deduce que
\begin{align*} I'(s) &= \frac{i}{2} \int_{\Gamma} \frac{z^{2} + 1}{z^{2} - 2z \cosh s + 1} \frac{dz}{z}, \end{align*}
donde el contorno $\Gamma$ denota el arco semicircular en sentido contrario a las agujas del reloj que une desde $-i$ a $i$ . Tenga en cuenta que tenemos $z^{2} - 2z \cosh s + 1 = 0$ si y sólo si $\cosh s = \cos \theta$ si y sólo si $z = e^{i\theta} = e^{\pm s}$ . De este modo, la deformación del contorno a la línea recta que une de $-i$ a $i$ con sangría infinitesimal en el origen, obtenemos
\begin{align*} I'(s) &= \frac{i}{2} \left\{ \operatorname{PV}\! \int_{-i}^{i} f(z) \, dz + 2\pi i \operatorname{Res} (f, e^{-s}) + \pi i \operatorname{Res} (f, 0) \right\}, \end{align*}
donde $f$ denota el integrando
$$ f(z) = \frac{z^{2} + 1}{z (z^{2} - 2z \cosh s + 1)}. $$
Procediendo al cálculo,
\begin{align*} I'(s) &= \frac{i}{2} \left\{ i \operatorname{PV} \! \int_{-1}^{1} f(ix) \, dx + \pi i - 2 \pi i \coth s \right\} \\ &= - \frac{1}{2} \int_{0}^{1} \{ f(ix) + f(-ix) \} \, dx - \frac{\pi}{2} + \pi \coth s \\ &= \cosh s \int_{0}^{1} \frac{\frac{1}{2} (1 - x^{-2}) }{\{ \frac{1}{2}(x + x^{-1}) \}^{2} + \sinh^{2} s} \, dx - \frac{\pi}{2} + \pi \coth s. \end{align*}
Ahora con la sustitución $u = \frac{1}{2} \{ x + x^{-1} \}$ se deduce que
\begin{align*} I'(s) &= - \cosh s \int_{1}^{\infty} \frac{du}{u^{2} + \sinh^{2} s} - \frac{\pi}{2} + \pi \coth s \\ &= - \arctan(\sinh s) \coth s - \frac{\pi}{2} + \pi \coth s. \end{align*}
Finalmente, con la sustitución $x = \sinh t$ ,
\begin{align*} I(s) = - \int_{s}^{\infty} I'(t) \, dt &= \int_{s}^{\infty} \left\{ \arctan(\sinh t) \coth t + \frac{\pi}{2} - \pi \coth t \right\} \, dt \\ &= \int_{\sinh s}^{\infty} \left( \frac{\arctan x}{x} + \frac{\pi}{2\sqrt{x^{2} + 1}} - \frac{\pi}{x} \right) \, dx. \end{align*}
Nuestro problema corresponde a $s = \log 2$ , o de forma equivalente, $a := \sinh s = \frac{3}{4}$ .
\begin{align*} &\int_{a}^{\infty} \left( \frac{\arctan x}{x} + \frac{\pi}{2\sqrt{x^{2} + 1}} - \frac{\pi}{x} \right) \, dx \\ &= - \int_{a}^{\infty} \frac{\arctan (1/x)}{x} \, dx + \frac{\pi}{2} \int_{a}^{\infty} \left( \frac{1}{\sqrt{x^{2} + 1}} - \frac{1}{x} \right) \, dx \\ &= - \int_{0}^{1/a} \frac{\arctan x}{x} \, dx + \frac{\pi}{2} \lim_{R\to\infty} \left[ \log\left( \frac{x + \sqrt{x^{2} + 1}}{x} \right) \right]_{a}^{R} \\ &= - \operatorname{Ti}\left(\frac{1}{a}\right) - \frac{\pi}{2} \log\left( \frac{a + \sqrt{a^{2} + 1}}{2a} \right), \end{align*}
donde la función
$$ \operatorname{Ti}(x) = \frac{\operatorname{Li}_{2}(ix) - \operatorname{Li}_{2}(-ix)}{2i} $$
es el integral tangente inversa . Utilizando la siguiente identidad simple
$$ \operatorname{Ti}(x) = \operatorname{Ti}\left(\frac{1}{x}\right) + \frac{\pi}{2}\log x, $$
se deduce que
\begin{align*} \int_{a}^{\infty} \left( \frac{\arctan x}{x} + \frac{\pi}{2\sqrt{x^{2} + 1}} - \frac{\pi}{x} \right) \, dx = - \operatorname{Ti}(a) - \frac{\pi}{2} \log\left( \frac{a + \sqrt{a^{2} + 1}}{2a^{2}} \right). \end{align*}
Por lo tanto, al tapar $a = \frac{3}{4}$ da
$$ \int_{0}^{\infty} \frac{\operatorname{arccot}( \sqrt{x} - 2\sqrt{x+1} )}{x+1} \, dx = \pi \log(3/4) - \operatorname{Ti}(3/4) $$
como señaló Cleo sin explicación. En general, para $k > 1$
$$ \int_{0}^{\infty} \frac{\operatorname{arccot}( \sqrt{x} - k \sqrt{x+1} )}{x+1} \, dx = \frac{\pi}{2} \log \left( \frac{(k^{2} - 1)^{2}}{2k^{3}} \right) - \operatorname{Ti}\left( \frac{k^{2} - 1}{2k} \right). $$