Para $n>\frac12 x$, sumando el es $x-n$, por lo que estos contribuyen $\approx \sum_{k=0}^{x/2}k\approx \frac18x^2$ a la suma.
Para $\frac12x\ge n>\frac13x$, sumando el es $x-2n$, por lo que estos contribuyen $\approx\sum_{k=0}^{x/6} 2k$ o $\approx\sum_{k=0}^{x/6} (2k+1)$, en cualquier caso, esto es $\frac1{36}x^2+O(x)$.
Más en general, lo suficientemente grande como $x$ e si $\frac1mx\ge n>\frac1{m+1}x$ $m\ll x$ (es decir, $m\le \sqrt x$), la contribución es esencialmente (es decir, hasta el $O(x)$) de la suma de todos los múltiplos de $m$ que $<\frac x{m+1}$, lo $\frac1{2m(m+1)^2}x^2+O(x)$.
Por otro lado, si no podemos lograr el $m\le\sqrt x$,$n\le \sqrt x$, y los $n$ contribuir en la mayoría de las ${\sqrt x\choose 2}\approx \frac 12x$.
Por lo tanto si dividimos la suma por $x^2$, nos quedamos con algo como
$$\tag1\frac{\sum_{n=0}^xx\bmod n}{x^2} =\sum_{m=1}^{\sqrt x}\frac1{2m(m+1)^2}+O(x^{-1/2}).$$
Mientras esto no reconocer su número "por su nombre", simpifies su aproximación numérica:
$$
\sum_{m=1}^{\infty}\frac1{2m(m+1)^2}\approx 0.17753296657\ldots \approx \frac1{5.6327566\ldots}
$$
Gracias a Michael Stocker's comentario conocemos el valor exacto:
$$1-\frac{\pi^2}{12} $$
(de hecho, ya un poco reconocer el conocido $\sum \frac1{m^2}=\frac{\pi^2}6$, y ypercube notado cómo llegar al resultado a través de $\frac1{m(m+1)^2}=\underbrace{\frac1m-\frac1{m+1}}_{\text{telescope}}-\frac1{(m+1)^2}$). Ahora todo lo que queda es conseguir un mejor agarre en el Big-Oh' se me permite entrar en el cálculo ...
De hecho, el OP de la observación sugiere que
$$\tag2\frac{\sum_{n=0}^xx\bmod n}{x^2} =1-\frac{\pi^2}{12}+O(x^{-1})$$
y la peor estimación en $(1)$ no puede venir de la serie incompleta solo.
