La única función que es convexa, ha $f(0)=0$ y satisfacer $f'(x)f(f(x)) = x$ es la identidad de $f(x) = x$.
Desde $f$ es convexo y $f(0) = 0$ hemos $$f(xt) = f(0\cdot (1-t) + x\cdot t) \leq (1-t)f(0) + t f(x) = tf(x) \implies \frac{f(xt)}{xt} \leq \frac{f(x)}{x}$$ for all $t\in[0,1]$ and $x\in\mathbb{R}_{\geq 0}$. This shows that $g(x) = \frac{f(x)}{x}$ es una función creciente.
Ahora tienen $g(x) < 1$ para todos los $x$, $g(x) > 1$ para todos los $x$ o existe una $x_0$ tal que $g(x_0) = 1$. Si $g(x) < 1$ todos los $x$ definimos $x_0 = \infty$ e si $g(x) > 1$ todos los $x$ definimos $x_0 = 0$.
En $[0,x_0)$ tenemos $f(x) \leq x$, por lo que
$$g(f(x)) \leq g(x) \implies f(f(x)) \leq \frac{f^2(x)}{x}$$ and the functional equation gives $$x \leq f'(x) \frac{f^2(x)}{x} \implies 0 \leq \frac{d}{dx}[f^3(x) - x^3] \implies x \leq f(x)$$ and since $f(x) \leq x$ and $x\leq f(x)$ we have $f(x) = x$ on $[0,x_0)$.
En $(x_0,\infty)$ tenemos $f(x) \geq x$, por lo que
$$g(f(x)) \geq g(x) \implies f(f(x)) \geq \frac{f^2(x)}{x}$$
y la funcional de la ecuación da $$x \geq f'(x) \frac{f^2(x)}{x} \implies 0 \geq \frac{d}{dx}[f^3(x) - x^3] \implies x\geq f(x)$$ and again since $f(x)\geq x$ and $f(x) \leq x$ we have $f(x) = x$ on $(x_0,\infty)$. It follows that $f(x) = x$ for all $x$.
Algunos detalles más sobre la integración de la desigualdad anterior. Desde $0 \leq \frac{d}{dx}[f^3(x) - x^3]$ $[0,x_0)$ hemos
$$0 =\int_0^x 0{\rm d}x \leq \int_0^x \frac{d}{dx}[f^3(x)-x^3)]{\rm d}x = f^3(x) - f^3(0) - x^3 + 0^3 = f^3(x) - x^3 \\\implies x^3 \leq f^3(x) \implies x \leq f(x)$$
para $0\leq x < x_0$ y desde $0 \geq \frac{d}{dx}[f^3(x) - x^3]$$(x_0,\infty$) tenemos
$$ 0 =\int_{x_0}^x 0{\rm d}x \geq \int_{x_0}^x \frac{d}{dx}[f^3(x)-x^3)]{\rm d}x = f^3(x) - f^3(x_0) - x^3 + x_0^3 = f^3(x) - x^3\\f^3(x) \leq x^3 \implies f(x) \leq x$$
para $x_0 < x$ donde hemos utilizado $f(x_0) = x_0$ a simplificar.
