Probemos esto: Establecer $x=y$ y obtener $|f(2x)-2f(x)|<M$ para algunos $M$ y todos $x$ .
Supongamos ahora que existe realmente una secuencia $x_n$ tal que $f(x_n)\rightarrow \infty$ . Encuentre ahora un índice $k$ tal que $f(x_k)=N$ con $N$ siendo mucho mayor que $M$ (cuánto debe decidir el resto).
Ahora, (*) nos da que $f(2x_k)\geq 2N-M$ entonces $f(4x_k)\geq 4N-2M-M$ y en general $f(2^nx_k)\geq 2^nN-a_nM$ . Aquí $a_n$ satisface lo siguiente: $$ a_1=1,\quad a_{n+1}=2a_n+1$$ Ahora bien, esto implica fácilmente que $a_n\leq 2^{n+1}-1$ .
Por lo tanto, tenemos $$ f(2^nx_k)\geq 2^nN-2^{n+1}M$$ Ahora, utiliza esto para demostrar que cuando $N$ es significativamente mayor que $M$ (se puede hacer riguroso), tenemos $\displaystyle \lim_{n\rightarrow \infty}\dfrac{f(2^nx_k)}{2^nx_k}\cong\dfrac{N}{x_k}$ lo que da una contradicción.
Edito: Tras el comentario de @pizza, actualizo la prueba, ya que se supone que el límite es $0$ sólo para números enteros. Así que lo que hemos demostrado hasta ahora es que la función $f$ se contabiliza en números enteros. Digamos que $|f(n)|\leq N$ para algunos $N\gg M$ .
Ahora, $|f(n)-2f(n/2)|<M$ implica que $$M+N\geq 2|f(n/2)|\Rightarrow N\geq |f(n/2)|$$ Del mismo modo, podemos demostrar que $|f(\dfrac{n}{2^k})|\leq N$ para todos $k$ .
Ahora, fíjate que la se $\{\dfrac{n}{2^k}: n,k\in\mathbb{Z}\}$ es denso en $\mathbb{R}$ y completar la prueba...
0 votos
Supongo que $n$ en $\lim_{n\to\infty}\frac{f(n)}{n}=0$ es un número entero; vale la pena subrayar esto.
0 votos
@pizza Hmm, en ese caso mi solución es incompleta...
0 votos
@pizza Ok, creo que ahora está mejor