Cualquier función monótona creciente sirve. Si $f(x)<x$ entonces $f(f(x))\leq f(x)<x,$ así que $f(f(x))\neq x.$ Del mismo modo, $f(x)>x,$ entonces $f(f(x))\geq f(x)>x,$ otra vez $f(f(x))\neq x.$ No necesitas $f$ sea estrictamente monótona.
Además, cualquier $f$ tal que $f(x)\geq x$ para todos $x.$ Si $f(x)\neq x,$ entonces $f(x)>x$ y $f(f(x))\geq f(x)>x.$ Esto incluye funciones como $f(x)=x+x^2,$ o más generalmente $f(x)=x+g(x)^2,$ para cualquier función $g,$ que no son estrictamente crecientes.
Del mismo modo, si $f(x)\leq x$ para todos $x,$ entonces cuando $f(x)\neq x$ obtenemos $f(x)<x$ y así $f(f(x))\leq f(x)<x.$ Esto incluye funciones como $f(x)=x-g(x)^2.$
$x+g(x)^2$ y $x-g(x)^2$ permite soluciones $g(x)=0,$ para que podamos obtener funciones $f$ con conjuntos arbitrarios de soluciones a $f(x)=0.$ Dado cualquier $C\subseteq\mathbb R,$ podemos encontrar $g$ avec $C=\{x\mid g(x)=0\}$ y luego $C=\{x\mid f(x)=x\}.$
Hay muchas funciones de este tipo.
Dada una $f,$ si $h(x)=f(x)-x,$ su estado $f(f(x))=x$ se convierte en $h(x+h(x))+h(x)=0$ así que quieres $$h(x+h(x))+h(x)=0\implies h(x)=0.\tag1$$
Merece la pena considerar qué $(1)$ significa que si $f$ es monótonamente creciente.
Si $h$ es diferenciable, la monotonicidad de $f$ significa $h'(x)\neq -2$ para todos $x.$ Entonces $h(x+h(x))=h(x)+h'(c)h(x)$ para algunos $c$ en $(x,x+h(x)).$ Así que $0=h(x+h(x))+h(x)=(2+h'(c))h(x).$ Pero $2+h'(c)\neq 0,$ Esto significa $h(x)=0.$
Así que aparentemente podemos utilizar cualquier $h(x)$ diferenciable tal que para todo $x,$ $h'(x)\neq -2.$ Entonces esto significa y diferenciable $f(x)$ tal que $f'(x)\neq -1.$
Si $f$ es diferenciable, y $f'(x)\neq -1$ para todos $x,$ tenemos $f(f(x))=x$ sólo si $f(x)=x.$
Probado directamente: Si $u=f(x)$ y $u\neq x,$ entonces $f(u)=x$ y $u-x=f(x)-f(u)=f'(c)(x-u)$ para algunos $c$ entre $u$ y $x.$ Pero $f'(c)\neq -1,$ esto no es posible.
Así que esto incluye un montón de funciones que disminuyen "demasiado rápido", como $f(x)=-2x.$
Teorema de Darboux dice que cualquier función que sea la derivada de otra satisface la propiedad del valor intermedio, por lo que si $f$ es diferenciable y $f'(x)\neq -1$ para todos $x,$ entonces $f'(x)<-1$ para todos $x$ o $f'(x)>-1$ para todos $x.$
Por supuesto, hay $f$ con algunos $f'(x)=-1$ que cumplan esta condición. Por ejemplo, cuando $f(x)=-(x+x^3).$ Entonces $f'(0)=-1,$ pero $f(f(x))=x$ aún implica $f(x)=x.$ Esto se debe a que mientras $f'(0)=-1,$ no hay $u\neq v$ avec $f(u)-f(v)=v-u,$ porque la función $f$ cruza la tangente en $x=0.$
Por supuesto, nuestra condición de valor medio en $u,v$ excluido $f(u)+u=f(v)+v$ cuando $u\neq v,$ que es más fuerte que excluir $f(u)=v, f(v)=u.$
Por ejemplo, $f(x)=x^2-x$ tiene $f(f(x))-x = x^4-2x^3,$ por lo que las raíces de $f(f(x))=x$ son $x=0,2$ pero $f(0)=0, f(2)=2.$ Así que $f$ tiene su propiedad, pero $f(x)+x = f(-x)+(-x)=x^2,$ así que $f$ tiene infinitos pares $u\neq v$ avec $f(u)+u=f(v)+v$ pero no con $f(u)=v$ y $f(v)=u.$