Primero intenté modificar la prueba en el enlace de la pregunta, pero pronto me di cuenta de que la prueba se mantiene debido a la forma particular que se satisface en el caso $n = 2$ .
En cambio, pude deducir una respuesta parcial:
Propuesta. Supongamos que una función continua $f : \Bbb{R} \to \Bbb{R}$ satisface $$ \sum_{k=0}^{n} \binom{n}{k} (-1)^{n-k} f^k (x) = a, \quad \forall x \in \Bbb{R} \tag{1}$$ para algún número real $a \in \Bbb{R}$ y algún número entero $n \geq 1$ . Si además suponemos que $f$ tiene al menos un punto fijo, entonces $f$ es la función de identidad.
En primer lugar, observamos las siguientes propiedades.
Lema 1. Dejemos que $f$ sea una función continua que satisfaga $(1)$ . Es decir, que $f$ satisfacen la suposición de la Proposición, excepto que $f$ tiene un punto fijo. Entonces $f$ es una biyección creciente desde $\Bbb{R}$ en $\Bbb{R}$ .
Prueba. Supongamos que $f(x) = f(y)$ . Entonces
$$ x = (-1)^n a - \sum_{k=1}^{n} \binom{n}{k} (-1)^{k} f^k (x) = (-1)^n a - \sum_{k=1}^{n} \binom{n}{k} (-1)^{k} f^k (y) = y $$
y $f$ es inyectiva. En particular, $f(\Bbb{R})$ es un intervalo abierto.
Para demostrar la subjetividad de $f$ , supongamos que $f$ no es sobreyectiva. Entonces, o bien $\sup f$ o $\inf f$ es finito, y en cualquier caso podemos encontrar un número real $\alpha \in \Bbb{R}$ y una secuencia de números reales $x_j$ tal que $|x_j| \to \infty$ y $f(x_j) \to \alpha$ como $j \to \infty$ . Pero esto implica
\begin {align*} \infty = \lim_ {j \to\infty } \left | x_j \right | = \lim_ {j \to\infty } \left | (-1)^n a - \sum_ {k=1}^{n} \binom {n}{k} (-1)^{k} f^k (x_j) \right | = \left | (-1)^n a - \sum_ {k=1}^{n} \binom {n}{k} (-1)^{k} f^{k-1}( \alpha ) \right | < \infty , \end {align*}
una contradicción. Por lo tanto, $f$ es sobreyectiva. En particular, $f$ es un homeomorfismo y es creciente o decreciente.
Para demostrar que $f$ es creciente, supongamos que $f$ está disminuyendo. Entonces $(-1)^{k-1} f^{k}$ es decreciente para cualquier $k \geq 1$ . Por lo tanto, el lado derecho de
$$ x = (-1)^n a + \sum_{k=1}^{n} \binom{n}{k} (-1)^{k-1} f^k (x) $$
también es decreciente, una contradicción. Esto completa la prueba. ■
Lema 2. Supongamos que $f : \Bbb{R} \to \Bbb{R}$ sea una biyección continua creciente, de modo que se extienda a una biyección continua $\bar{f}$ de $\bar{\Bbb{R}} = [-\infty, \infty]$ en $\bar{\Bbb{R}}$ . Entonces, para cualquier $x \in \bar{\Bbb{R}}$ tenemos la siguiente tricotomía:
- Si $x < f(x)$ entonces $f^k (x)$ converge al punto fijo más pequeño de $\bar{f}$ mayor que $x$ .
- Si $x > f(x)$ entonces $f^k (x)$ converge al mayor punto fijo de $\bar{f}$ más pequeño que $x$ .
- Si $x = f(x)$ entonces $f^k (x)$ converge a $x$ .
Prueba. Desde $\bar{f} : \bar{\Bbb{R}} \to \bar{\Bbb{R}}$ es continuo, el conjunto $F = \{ \bar{f}(x) = x : x \in \bar{\Bbb{R}} \}$ es un conjunto cerrado que contiene tanto $\infty$ y $-\infty$ . Si $F = \bar{\Bbb{R}}$ no hay nada que probar y asumir que $F^c \neq \varnothing$ . Desde $F^c$ está abierto en $\Bbb{R}$ podemos descomponerlo como una unión contable de intervalos abiertos disjuntos $U_j$ . Tenga en cuenta que en cada $U_j$ , ya sea $f(x) > x$ de forma idéntica para todos los $x \in U_j$ o $f(x) < x$ de forma idéntica para todos los $x \in U_j$ por la continuidad de $f$ .
Ahora dejemos que $x \neq f(x)$ . Entonces $x \in U_j$ para algunos $j$ . Supongamos primero que $x < f(x)$ . Entonces, para cualquier $x < y \leq f(x)$ tenemos $f(y) > f(x) \geq y$ y tenemos $[x, f(x)] \subset U_j$ . En particular, $f(x) \in U_j$ . Ahora bien, este argumento puede aplicarse repetidamente para obtener que $f^k (x) \in U_j$ para todos $k$ . Desde $f^k(x)$ es monótona creciente, debe converger a algún punto $\alpha \in \bar{\Bbb{R}}$ . Es sencillo comprobar que $\alpha = \sup U_j$ y $\alpha$ es un punto fijo de $\bar{f}$ , demostrando la primera opción de la tricotomía. La segunda opción sigue exactamente la misma manera y la tercera opción es trivial. ■
Como consecuencia inmediata, obtenemos el siguiente corolario:
Corolario. Si $f : \Bbb{R} \to \Bbb{R}$ es una biyección continua creciente que tiene al menos un punto fijo, entonces para cualquier $x \in \Bbb{R}$ , ya sea $f^k (x)$ o $f^{-k} (x)$ converge a un punto fijo de $f$ .
Prueba. Dejemos que $U_j$ sea como en la prueba anterior. Si $x \in U_j$ entonces $f^k (x)$ y $f^{-k} (x)$ converge a $\sup U_j$ y $\inf U_j$ . Desde $f$ tiene un punto fijo, ya sea $\sup U_j$ o $\inf U_j$ es finito. ■
Ahora estamos preparados para demostrar la proposición.
Prueba de la proposición. Definir
$$g(x) = \sum_{k=0}^{n-1} \binom{n-1}{k} (-1)^{n-1-k} f^k (x). $$
Es fácil observar que $g \circ f - g = a$ . Sea $F$ sea el conjunto de puntos fijos de $f$ . Entonces $F$ no es vacía, por supuesto. Si elegimos un punto $\alpha \in F$ entonces
$$0 = g(f(\alpha)) - g(\alpha) = a.$$
En particular, tenemos
$$ g = g\circ f = g \circ f^{k} \quad \forall k \in \Bbb{Z}. $$
Por lo tanto, si $n = 1$ entonces $g(x) = x$ y esta identidad da como resultado inmediato $f(x) = x$ . Esto demuestra que podemos asumir $n \geq 2$ .
Teniendo en cuenta el corolario anterior, para cada $x \in \Bbb{R}$ , ya sea $f^{k}(x)$ o $f^{-k}(x)$ converge a un punto de $F$ . Por lo tanto, existe $\alpha \in F$ tal que
$$g(x) = g(\alpha) = 0,$$
donde la última desigualdad se cumple por la definición de $g$ junto con la suposición $n \geq 2$ . En conjunto, demostramos que si $(1)$ se mantiene para algunos $n \geq 2$ y $a \in \Bbb{R}$ entonces $(1)$ también es válido para $n-1$ en lugar de $n$ y $a = 0$ . Por lo tanto por la inducción matemática, obtenemos la conclusión deseada. ■
