Con la ayuda de reuns,puedo completar la prueba.
\begin{equation}
\begin{aligned}
\lim_{n\to\infty}nF\left(\frac{1}{n}\right)&=\lim_{n\to\infty}n\sum_{k=n}^\infty\int_\frac{1}{k+1}^\frac{1}{k}\left(\frac{1}{t}-\left[\frac{1}{t}\right]\right)dt\\&=\lim_{n\to\infty}n\sum_{k=n}^\infty\int_\frac{1}{k+1}^\frac{1}{k}\left(\frac{1}{t}-k\right) dt\\&=\lim_{n\to\infty}n\sum_{k=n}^\infty \left(\ln(1+\frac{1}{k})-\frac{1}{k+1}\right)\\&=\lim_{n\to\infty}n\sum_{k=n}^\infty \left(\frac{1}{k}-\frac{1}{2k^2}-\frac{1}{k+1}\right)\\&=\frac{1}{2}.
\end{aligned}
\end{equation}
Desde
$$\frac{1}{n}=\sum_{k=n}^\infty \frac{1}{k(k+1)}<\sum_{k=n}^\infty \frac{1}{k^2}<\sum_{k=n}^\infty \frac{1}{k(k-1)}=\frac{1}{n-1}$$
y
$$\frac{1}{n^3}\leq\sum_{k=n}^\infty\frac{1}{k^3}\leq\frac{1}{n}\sum_{k=n}^\infty\frac{1}{k^2}<\frac{1}{n(n-1)}.$$
Gracias a Martin R para recordar.
La siguiente parte es por Adam Latosiński, me acaba de modificar los errores tipográficos.Gracias por su ayuda!
Todavía tenemos que demostrar que $\lim\limits_{x\rightarrow 0} \frac{F(x)}{x} = \frac{1}{2}$ también cuando nos acercamos por una secuencia de con $x\neq\frac{1}{n}$. Deje $n=[ 1/x]$, por lo que $\frac{1}{n+1}<x\le\frac{1}{n}$, que es $n\le\frac{1}{x}<{n+1}$. Tenemos
\begin{align} \left|\frac{F(1/n)}{1/n} - \frac{F(x)}{x}\right| &\le \left|\frac{F(1/n)}{1/n} - \frac{F(1/n)}{x}\right| + \left|\frac{F(1/n)}{x} - \frac{F(x)}{x}\right| \\
&\le F(1/n) \left|n-\frac{1}{x}\right| + (n+1) |F(1/n)-F(x)| \\
&\le F(1/n) + (n+1) \int_{x}^{\frac{1}{n}} \Big(\frac{1}{t}- \left[\frac{1}{t}\right]\Big) dt \\
&\le F(1/n) + (n+1) \int_{x}^{\frac{1}{n}} 1 \,dt \\
&\le F(1/n) + (n+1)(\frac{1}{n}-\frac{1}{n+1}) \rightarrow 0\end{align}
lo que demuestra que $$ \lim_{x\rightarrow 0} \frac{F(x)}{x} = \lim_{n\rightarrow\infty} nF(\frac{1}{n}) = \frac12$$