De acuerdo, aquí hay una prueba bastante simple de que para cualquier número entero positivo $n$ y cualquier número real positivo $x_1,\ldots,x_n$, $$ \sum_{i,j=1}^{n}\left\{\frac{x_i}{x_j}\right\}\leq \frac{9}{14}n^2\,.$$ Que la constante $\frac{9}{14}$ no se puede mejorar ya ha sido demostrado por el OP. Me pregunto si el estudiante chino que inventó el problema tenía el mismo en mente.
Considera la función $$ f(z)=\begin{cases} 1+z,&0\le z\le 1/2 \\ z+\frac 1z-1, &\frac 12\le z\le 2 \\ 1+\frac 1z, &z\ge 2 \end{cases} $$ Nota que $f(z)=f(1/z)$ y $f(z)\ge\{z\}+\{1/z\}$ para todo $z>0$. Mostraremos que $$ \sum_{i,j}f(x_i/x_j)u_i u_j\le \frac 97\|u\|_{\ell^1}^2 $$ para todas las secuencias no negativas $u$ con soporte finito y para todos los $x_j>0$.
Observa que $f$ es una función continua agradable que aumenta cerca del $0$, disminuye cerca de $+\infty$ y convexa excepto por dos puntos singulares $\frac 12$ y $2$. La última propiedad permite elegir cualquier subconjunto de $x_j$, reemplazarlos por $tx_j$ y mover $t$ hacia arriba o hacia abajo para aumentar (o, al menos, mantener constante) el LHS hasta que alguna proporción entre los $x_j$ en movimiento y los estacionarios se convierta en $2$ o $\frac 12$. Haciendo eso algunas veces, llegaremos a la situación en la que el gráfico en el que $i$ está unido con $j$ si y solo si $x_i/x_j\in\{\frac 12,2\}$ está conectado (de lo contrario, solo mueve un componente conectado hasta adquirir una nueva arista). En inglés normal significa que todos los $x_j$ son simplemente potencias de $2$ (multiplicadas por algún factor común positivo irrelevante).
Así, restando $1$ a cada entrada, vemos que nuestras entradas de matriz son simplemente $2^{-|i-j|}$ para $i\ne j$ y $0$ para $i=j$. donde $1\le i,j\le m$ (unimos los $u_j$ para los $x_j$ que colisionan, por supuesto). Llamemos a esa matriz $A(m)$. Queremos mostrar que $$ \langle A(m)u,u\rangle=\sum_{i,j}A(m)_{ij}u_iu_j\le\frac 27\|u\|_{\ell^1}^2 $$ ahora.
Es hora de mover a $u_i$. Observa primero que no necesitamos ceros en el medio: simplemente podemos mover los bloques de soporte juntos aumentando el coeficiente en cada producto $u_iu_j$ descartando la cola de ceros después y reduciendo $m$. Luego, asumiendo que tenemos soporte completo, tomamos algún vector $v$ con suma $0$ y reemplazamos $u$ por $u+tv$. El RHS no cambiará hasta que eliminemos una entrada. El LHS se convertirá en $$ \langle A(m)u,u\rangle+2t\langle A(m)u,v\rangle+t^2\langle A(m)v,v\rangle $$ así que no podemos mejorarlo y eliminar una entrada solo si $A(m)$ es negativa definida en el subespacio de suma cero de $\mathbb R^m$. La última propiedad falla para $m\ge 4$: simplemente toma $v=(2,1,-1,-2,0,0,\dots)$ para obtener $\langle A(m)v,v\rangle=0$. Por lo tanto, estamos interesados en $m=2,3$ solamente. Según la última fórmula mostrada, para encontrar el $u$ óptimo, solo necesitamos resolver $A(m)u=e$ donde $e$ es el vector de todos los $1$'s (la instancia trivial de la idea del multiplicador de Lagrange). Para $m=2$, obtenemos $u=(2,2)$ con la constante $\frac 14$ (el ejemplo de Alexei). Para $m=3$, obtenemos $u=(1,\frac 32,1)$ y la proporción $\frac 27$ (el ejemplo del estudiante chino).
Eso es todo.