Me gustaría dar una solución tanto de las instancias del problema que apareció aquí, en diferentes momentos, es decir, la versión publicada antes de la OP editado su post y la actual. Primero quiero resolver el problema tal y como se indica en el OP.
Problema Que Yo
$$f(y+f(x))=f(x)f(y)+f(f(x))+f(y)-xy.$$
Como ya se ha notado, la configuración de $y=0$, se llega a $$f(f(x))=f(0)f(x)+f(f(x))+f(0)$$ which leads to $f(x)\equiv -1$, which is not a solution of the problem, or $f(0)=0$. Incidentally, even though it is not crucial for the solution, notice that if we assume that there is an $\bar x$ such that $f(\bar x)=0$, setting $x=\bar x$ we infer that $f(y)=f(y)-\bar xy$. In particular, setting $y=1$, we conclude $\bar x=0$.
A continuación, conecte enla ecuación de $f(y)$ en lugar de $y$ para obtener $$f(f(y)+f(x))=f(x)f(f(y))+f(f(x))+f(f(y))-xf(y).$$ Interchange the roles of $x$ and $y$ to obtain similarly $$f(f(x)+f(y))=f(f(x))f(y)+f(f(y))+f(f(x))-yf(x).$$ Compare these two equations to conclude that $$\frac{f(f(x))+x}{f(x)}=\frac{f(f(y))+y}{f(y)}=k,$$ where $k$ es un constante.
Sustituir en la ecuación original para obtener $$f(y+f(x))=f(x)f(y)-x+kf(x)+f(y)-xy.$$ Denote $a:=f(-1)$ and choose $y=-1$ to obtain $$f(f(x)-1)=(a+k)f(x)+a$$
Editar Gracias a Dejan que señaló un error en mi prueba
Enchufe en la ecuación original $f(y)-1$ en lugar de $y$ obtener $$\begin{aligned}f(f(y)+f(x)-1)&=f(x)[(a+k)f(y)+a]-x+kf(x)-x(f(y)-1)\\&=(a+k)(f(x)+f(y))-xf(y).\end{aligned}$$ Exchange $x$ and $y$ to obtain $$f(f(y)+f(x)-1)=(a+k)(f(x)+f(y))-yf(x).$$ Compare these two equations to deduce that $$\frac{f(x)}{x}=\frac{f(y)}{y}=a.$$
Sustituir en la ecuación original para averiguar que el total admisible de los valores de $a$ sólo $\pm 1$ es decir $$f(x)=\pm x.$$
Problema II
Ahora vamos a ver qué pasa si la ecuación está escrita en su lugar como $$f(x+f(y))=f(x)f(y)+f(f(x))+f(y)-xy.$$ Setting $x=y=0$ one deduces that $$f(0)^2+f(0)=0$$ from which $f(0)\in \{-1, 0\}$.
Asumir, a continuación,$f(0)=0.$, a Continuación, conecte la ecuación de $x=0$ a deducir que $f(y)=f(f(y)).$
Vamos a ver que $f$ es inyectiva. Supongamos que hay $y\neq z$$f(y)=f(z)$. Uso de la ecuación con $y$ $z$ y deducir que en este caso $x(y-z)=0$ para todos los $x\in\mathbb R$, lo cual es claramente imposible. A continuación, $f$ es inyectiva. Ahora, recordemos que en nuestra hipótesis de la ecuación de los estados como $$f(x+f(y))=f(x)f(y)+f(x)+f(y)-xy.$$ Exchange $x$ and $y$ to obtain $$f(y+f(x))=f(y)f(x)+f(y)+f(x)-yx.$$ It follows from the injectivity of $f$ that $$f(x)-x=f(y)-y=k=0.$$ es fácil comprobar que la identidad es, de hecho, una solución de nuestra ecuación.
Ahora imagine $f(0)=-1$. Entonces, la elección de $x=0$, se deduce $$f(f(y))=f(f(-1))=a.$$ Substitute then $x$ with $f(x)$ to derive $$f(f(x)+f(y))=af(y)+f(a)+f(y)-f(x)y.$$ Similarly, also $$f(f(x)+f(y))=af(x)+f(a)+f(x)-f(y)x$$ holds. Therefore we finally find that $$\frac{f(x)}{(a+1+x)}=\frac{f(y)}{(a+1+y)}=c.$$ It follows that there are constants $c,d\in\mathbb R$ such that $$f(x)=cx+d.$$ From the fact that $f(f(x))=a$, we deduce $c=0$, and from $f(0)=-1$, it follows $f\equiv -1$, que no es una solución del problema.
