OK, yo prefiero reemplazar $2y$ $y$ obtener
$$f(x+y)=f(x)+f(y)+(x+y)e^{x+y}-xe^x-ye^{y}+2xy \tag{1}$$
A continuación, elija $x=y$ obtener
$$f(2x)=2f(x)+2xe^{2x}-2xe^{x}+2x^2 \tag{2}$$
O, equivalentemente,
$$\begin{align}
& f(2x)-2f(x)=(2xe^{2x}+(2x)^2)-2(xe^x+x^2) \\
& f'(0)=1
\end{align}
\etiqueta{3}$$
Ahora, voy a demostrar que la única función de la satisfacción de $(3)$ es
$$f(x)=xe^x+x^2 \tag{4}$$
que es sugestivo cuando se mira en $(3)$.
Supongamos que existe otra función llamada $g(x)$ satisfactorio
$$\begin{align}
& g(2x)-2g(x)=(2xe^{2x}+(2x)^2)-2(xe^x+x^2) \\
& g'(0)=1
\end{align}
\etiqueta{5}$$
Siguiente, la introducción de $h(x)=f(x)-g(x)$ llegamos a la conclusión de que
$$\begin{align}
& h(2x)=2h(x) \\
& h'(0)=0
\end{align}
\etiqueta{6}$$
y por lo $h(x)=0$$f(x)=g(x)$. Para una prueba de $h(x)=0$ $\mathbb R$ ver este post.