Esta pregunta parece no tener una solución simple.
Como otros han señalado, hay un par de interesantes soluciones basadas en , como $f(x) = 0$ o $f(x) = e^x$ o $f(x) = (-1)^{n+1}n^{n+1}x^{-n}$ o $f(x) = 1/x$ (a Pesar de que, técnicamente, la última no es una función de$\mathbb{R}$$\mathbb{R}$).
Sin embargo, lo que no se ha hecho hasta ahora en los comentarios es caracterizar las soluciones mirando los diferentes valores que $f \circ f'$ puede tomar.
Por lo tanto, vamos a definir $g = f \circ f' = f' \circ f$. Ahora, la razón que hace que este problema parece no tener una solución simple, es el hecho de que ya hay un montón de soluciones sólo para el caso de $g = 0$, de las cuales no todas son lisas.
Para $g = 0$, un trivial solución sería la función de $f = 0$. Sin embargo, si tenemos una función de $h$ con soporte compacto cuya derivada es acotado, se puede considerar que la función de $f(x) := h(x - T)$ algunos $T \in \mathbb{R}$. Si establecemos $T$ lo suficientemente grande, $f$ toma en cero para todos los valores de $f'$, la satisfacción de $f \circ f' = 0$. Del mismo modo, sabemos que $f$ es limitada, dado que es continuo, lo que nos lleva a la conclusión de que la $f' \circ f = 0$ lo suficientemente grande como T. Esto significa que al tomar cualquier función derivable con tamaño compacto y un almacén de derivados, podemos cambiar lo suficiente a la derecha (o izquierda) para obtener una función que satisface la ecuación de la pregunta sólo para el caso especial de $g=0$. Si no me equivoco, incluso hay funciones en $C^1(\mathbb R)\setminus C^2(\mathbb{R})$ con finito de apoyo y un almacén de derivados, lo que significa que tenemos algunos bastante "no agradable" soluciones.entre el conjunto de soluciones.
Por supuesto, no es tan fácil de encontrar soluciones para otros valores de $g$ es de $g = 0$, pero creo que el hecho de que en este caso especial, ya tiene una gran variedad de soluciones destaca el hecho de que este problema puede ser muy difícil de resolver.