Algunos resultados parciales, pero demasiado largos para un comentario.
La condición implica que $f,g$ son $C^\infty$ . En particular, $$ f''=(g\circ f)'=f'\cdot g'\circ f=g\circ f \cdot f\circ g\circ f=(\operatorname{id}\cdot f)\circ g\circ f$$ para que cada cero de $f'$ también es un cero de $f''$ . Dejemos que $h_0=f$ y recursivamente $$h_{n+1}=\begin{cases}g\circ h_n&n\text{ even}\\f\circ h_n&n\text{ odd}\end{cases}$$ Hasta ahora, hemos $f=h_0$ , $f'=h_1$ , $f''=h_1h_2$ . Tenga en cuenta que $$h_{n+1}'=\begin{cases}h_n'\cdot g'\circ h_n=h_n'\cdot f\circ g\circ h_n&n\text{ even}\\ h_n'\cdot f'\circ h_n=h_n'\cdot g\circ f\circ h_n&n\text { odd}\end{cases} $$ Así que en cualquier caso, $$ h_{n+1}'=h_n'h_{n+2}.$$ Así, por inducción, $$\tag1 h_n'=\prod_{k=1}^{n+1} h_k.$$
Dejemos que $$ H=\Bigl\{\,\prod_{k=1}^m h_k^{a_k}\Bigm| m\ge 1, a_1\ge a_2\ge a_m\ge1 \,\Bigr\}$$
Si $\phi\in H$ entonces por la regla del producto y $(1)$ , $\phi'$ es una suma finita de elementos de $H$ . Como $f'=h_1\in H$ concluimos que todos los $f^{(n)}$ , $n\ge1$ son sumas finitas de elementos de $ H$ . En particular, para todos los $x$ con $f'(x)=0$ tenemos $f^ {(n)}(x)=0$ para todos $n\ge1$ . Por supuesto, la misma conclusión es válida para $g$ .
Como consecuencia del teorema de la identidad:
Si $f$ es analítica entonces $f$ es constante (y por tanto $g$ lineal) o $f'$ no tiene ceros (así que en particular, $f$ es estrictamente monótona). Lo mismo para $g$ .
Así que si $f,g$ son analíticas y ninguna es constante, entonces ambas son monótonas, por lo que todas $h_n$ son estrictamente monótonas. Si ambos $f,g$ son crecientes, entonces todas las derivadas son crecientes.