Este es un enfoque,
la ecuación $y f(x)+ \frac{x}{y}=x^2 + y^2$ para $x \neq 0$ tiene al menos una raíz real, ya que la ecuación es equivalente a una ecuación cúbica. Denotemos esta raíz por $\lambda$ .
introduciendo $\lambda$ en la ecuación encontramos $f(x^2+y^2)=x \lambda f(x^2+y^2)$ . Ahora, fíjate que $x^2+y^2 \neq 0$ si puedes demostrar que para algunos $\sigma$ que $f(\sigma)=0\, \iff \sigma =0$ entonces el resultado es el siguiente ya que, entonces $\lambda = \frac{1}{x}$ y formar la ecuación funcional inicial se obtendría $f(x)\lambda + \frac{x}{\lambda}=x^2+\lambda^2\, \implies f(x)=\frac{1}{x}$
Así, la solución al problema se encuentra afirmando que se puede demostrar que
$f(\sigma)=0 \, \iff \sigma = 0$
El camino a la gloria creo que requiere el análisis de la siguiente relación
$f(f(x)+x) = xf(x^2+1)$
Nos permite demostrar que para $x \neq 0$ entonces $f(x)=0 \implies f(x^2+1)=0$ lo que implica $\exists\,$ una secuencia $S_n \to \infty$ tal que $f(S_n)=0$ . Para lo siguiente, supongamos que $f$ es continua.
Ahora, toma $x^2+y^2=S_n$ la relación inicial implica que $$f\left(f(x)y+ \frac{x}{y}\right)=0\, \forall \,x^2+y^2=S_n$$
Ahora, para $y \to 0^+$ y $x>0$ uno encuentra que $f(x)y+\frac{x}{y} \to \infty$ como $x \to \sqrt{S_n}$ Por lo tanto $f$ toma valores cero en la vecindad de $\infty$ .
Desde $f(y+\frac{1}{y}) = y f(1+y^2)\, \implies f(x)=-f(-x)\, \forall\, |x| \geq 2$ encontramos el mismo resultado en la vecindad de $- \infty$ . Obsérvese ahora que para $y>1$ que $y+\frac{1}{y} > 1+y^2$ se pueden trasladar los ceros en la vecindad de $\infty$ hasta llegar a $2$ . De modo que
$f(x)=0$ en $(-\infty, -2]\, \cup \, [2, \infty)$
No estoy seguro de dónde ir a partir de aquí, pero esto puede proporcionar una ayuda útil para una solución completa.