Si nos fijamos en la correspondiente integral, obtenemos
$$\int_2^\infty \frac{\sqrt{x}\ln t}{1 + t^2x}\,dt = \int_{2\sqrt{x}}^\infty \frac{\ln u - \ln \sqrt{x}}{1+u^2}\,du.$$
Ambas funciones,
$$\frac{\ln u}{1+u^2} \quad\text{and}\quad \frac{1}{1+u^2}$$
son Lebesgue integrable sobre $(0,\infty)$, por lo que para la integral, tenemos la asintótica de desarrollo
\begin{align}
I(x) &= \int_0^\infty \frac{\ln u}{1+u^2}\,du - \frac{\pi}{4}\ln x - \int_0^{2\sqrt{x}}\frac{\ln u}{1+u^2}\,du + \frac{1}{2}\ln x\int_0^{2\sqrt{x}} \frac{1}{1+u^2}\,du\\
&= C - \frac{\pi}{4}\ln x + \frac{1}{2}\arctan (2\sqrt{x})\ln x - 2\sqrt{x}\ln (2\sqrt{x}) + 2\sqrt{x} + O(x)\\
&= C - \frac{\pi}{4}\ln x + 2(1-\ln 2)\sqrt{x} + O(x).
\end{align}
Ahora echemos un vistazo a la diferencia entre la serie y la integral.
$$\frac{\sqrt{x}\ln n}{1+n^2x} - \int_{n}^{n+1} \frac{\sqrt{x}\ln t}{1+t^2x}\,dt = \sqrt{x}\int_n^{n+1} \frac{(t^2-n^2)x\ln n}{(1+n^2x)(1+t^2x)} - \frac{\ln \frac{t}{n}}{1+t^2x}\,dt.$$
Siempre tenemos $0 \leqslant \ln \frac{t}{n} \leqslant \ln \frac{3}{2}$$[n,n+1]$, por lo que podemos estimar que el
$$0 < \int_2^\infty \frac{\sqrt{x}\ln \frac{t}{\lfloor t\rfloor}}{1+t^2x}\,dt < \ln \frac{3}{2} \int_0^\infty \frac{du}{1+u^2}.$$
Para el otro término, señalando que $n \geqslant \frac{2}{3}t$$t^2 - n^2 < 2t+1 < 3t$, se puede estimar
\begin{align}
0 &< \int_2^\infty \frac{x^{3/2}(t^2-\lfloor t\rfloor^2)\ln \lfloor t\rfloor}{(1+\lfloor t\rfloor^2x)(1+t^2x)}\,dt\\
&< \int_2^\infty \frac{x^{3/2}3t\ln t}{\bigl(1+\frac{4}{9}t^2x\bigr)(1+t^2x)}\,dt\\
&= 3\sqrt{x}\int_{2\sqrt{x}}^\infty \frac{u\ln \frac{u}{\sqrt{x}}}{\bigl(1+\frac{4}{9}u^2\bigr)(1+u^2)}\,du.
\end{align}
El último tiende a $0$ al $x\to 0$, debido a la $\sqrt{x}$ factor, de modo que la diferencia entre la serie y la integral queda delimitada.
En general
$$\sum_{n=2}^\infty \frac{\sqrt{x}\ln n}{1+n^2x} = -\frac{\pi}{4}\ln x + O(1).$$