Dejemos que $P = a_m x^m + \cdots$ , $Q = b_n x^n + \cdots$ y $f = c_p x^p + \cdots$ con $a_m, b_n, c_p \ne 0$ y $m, n$ impar. Nos fijaremos sólo en los términos principales, es decir, los términos de grado máximo en ambos lados de la igualdad (entendiendo ambos lados como elementos de $\Bbb R [x,y]$ ).
En el lado izquierdo, tiene
$$c_p \Big( (a_m x^m + \cdots) + \color{blue} {\big( b_n (f(y))^n + \cdots \big)} + (b_n y^n + \cdots) \color{green} {\big( a_m (f(x))^m + \cdots \big)} \Big) ^p + \cdots = \\ c_p \Big( (a_m x^m + \cdots) + \color{blue} {\big( b_n (c_p y^p + \cdots)^n + \cdots \big)} + (b_n y^n + \cdots) \color{green} {\big( a_m (c_p x^p + \cdots)^m + \cdots \big)} \Big) ^p + \cdots \\ = c_p (a_m x^m + b_n c_p ^n y^{pn} + b_n a_m c_p ^m y^n x^{pm} + \cdots)^p + \cdots .$$
Veamos ahora el lado derecho:
$$(b_n y^n + \cdots) + \color{blue} {\big( a_m (f(x))^m + \cdots \big)} + (a_m x^m + \cdots) \color{green} {\big( b_n (f(y))^n + \cdots \big)} = \\ (b_n y^n + \cdots) + \color{blue} {\big( a_m (c_p x^p + \cdots)^m + \cdots \big)} + (a_m x^m + \cdots) \color{green} {\big( b_n (c_p y^p + \cdots)^n + \cdots \big)} = \\ b_n y^n + a_m c_p ^m x^{pm} + a_m b_n c_p ^n x^m y^{pn} + \cdots .$$
Convengamos en llamar "grado total" a un monomio $Ax^M y^N$ el número $M+N$ . Convengamos en llamar "grado total de un polinomio" al mayor de los grados totales de sus monomios.
Supongamos que $m \le n$ . Supongamos también que $p > 1$ y tratar de obtener una contradicción.
En el lado izquierdo, el grado total de
$$a_m x^m + b_n c_p ^n y^{pn} + b_n a_m c_p ^m y^n x^{pm} + \cdots$$
es $n + pm$ por lo que el grado total de
$$(a_m x^m + b_n c_p ^n y^{pn} + b_n a_m c_p ^m y^n x^{pm} + \cdots)^p + \cdots$$
es $pn + p^2 m$ .
En el lado derecho, el grado total de
$$b_n y^n + a_m c_p ^m x^{pm} + a_m b_n c_p ^n x^m y^{pn} + \cdots$$
es $m + pn$ .
Como ambos lados son iguales, sus grados totales como polinomios en $\Bbb R [x,y]$ debe ser igual, por lo tanto $pn + p^2 m = m + pn$ de donde se desprende $p^2 m = m$ . Hay dos posibilidades:
Se deduce que nuestra suposición era errónea, por lo tanto $p \le 1$ .
No podemos tener $f=0$ porque (sustituyendo $f$ por $0$ en el enunciado original) obtendríamos $Q=0$ lo que no es posible ya que el grado de $Q$ es impar (por lo tanto no puede ser $-\infty$ a no ser que se defina $-\infty$ para ser a la vez impar y par).
Tampoco podemos tener $\deg f = 0$ porque $\deg f$ se requiere que sea impar.
Queda que $f(x) = cx + d$ con $c \ne 0$ . Volvamos a introducir esto en la declaración original y veamos qué obtenemos:
$$c P(x) + c Q(cy + d) + c Q(y) P(cx + d) + d = Q(y) + P(cx + d) + P(x) Q(cy + d) .$$
El término principal del lado izquierdo es $c b_n y^n a_m c^m x^m$ , procedente de $c Q(y) P(cx + d)$ . El término principal del lado derecho es $a_m x^m b_n c^n y^n$ , procedente de $P(x) Q(cy + d)$ . Al igualarlas, obtenemos $c^{m+1} a_m b_n = c^n a_m b_n$ y, como $c, a_m, b_n \ne 0$ se deduce que $c^{n-m-1} = 1$ . Desde $n,m$ son Impares, se deduce que $n-m-1$ es impar, y el único real raíz de $c^{\color{blue} {\text{odd}}} = 1$ es $c=1$ . Por lo tanto, $f(x) = x + d$ y la igualdad original se convierte en
$$\tag{*} P(x) + Q(y + d) + Q(y) P(x + d) + d = Q(y) + P(x + d) + P(x) Q(y + d) .$$
Demostremos finalmente que $d=0$ . Comience por notar que
$$(x+d)^i = \sum _{a=0} ^i \binom i a x^{i-a} d^a = x^i + d \sum _{a=1} ^i \binom i a x^{i-a} d^{a-1} ,$$
por lo que se deduce que existen polinomios $F_d$ y $G_d$ (con coeficientes que pueden depender de $d$ ) tal que $P(x+d) = P(x) + d F_d (x)$ y $Q(x+d) = Q(x) + d G_d (x)$ . Esto significa que la igualdad (*) puede reescribirse como
$$P(x) + Q(y) + d G_d (y) + Q(y) P(x) + d Q(y) F_d (x) + d = Q(y) + P(x) + d F_d (x) + P(x) Q(y) + d P(x) G_d (y) ,$$
que, tras las simplificaciones, se convierte en
$$d \big( G_d (y) - Q(y) F_d (x) + 1 - F_d (x) - P(x) G_d (y) \big) = 0 .$$
Hay dos posibilidades: la primera es $d=0$ . El segundo es
$$G_d (y) - Q(y) F_d (x) + 1 - F_d (x) - P(x) G_d (y) = 0 .$$
Demostremos que esto no es posible. Veamos el polinomio
$$\tag{**} G_d (y) - Q(y) F_d (x) + 1 - F_d (x) - P(x) G_d (y)$$
como un polinomio en $y$ con coeficientes en $\Bbb R[x]$ . Por lo tanto, el término principal en $y$ es $-b_n y^n F_d (x)$ que proviene del término $- Q(y) F_d (x)$ . Como el polinomio es igual a $0$ y $b_n \ne 0$ se deduce que $F_d = 0$ lo que significa que la igualdad (**) se reescribe como
$$\tag{***} G_d (y) + 1 - P(x) G_d (y) = 0 .$$
Considerando este polinomio como un polinomio en $x$ con coeficientes en $\Bbb R[y]$ su término principal es $-a_m x^m G_d (y)$ que proviene del término $- P(x) G_d (y)$ . De nuevo, la igualdad a $0$ y el hecho de que $a_m \ne 0$ implican que $G_d = 0$ por lo que (***) se convierte en $1 = 0$ , claramente falsa. Por lo tanto, $d=0$ es la única posibilidad.
Hemos demostrado, por tanto, que $f(x) = x$ es la única solución. La única técnica que se ha utilizado sistemáticamente ha sido mirar los términos principales de los distintos polinomios encontrados.