Podemos demostrar que $x=0$ es la única solución.
Vamos
$$f(x)= x^4+x \sin(x) \cos(x)- \sin^2(x) \,.$$
A continuación, $f$ es aún, por lo que es suficiente para buscar raíces en $[0, \infty)$.
Usted cana lso observar que $f(x)\geq x^4 -x-1$, y un sencillo cálculo muestra que para todos los
$x> \sqrt[3]{2}$ tenemos $x^4-x-1 >0$.
Por lo tanto la única posible positivo raíces están en el intervalo de $[0, \sqrt[3]{2}]$, que está dentro del primer cuadrante.
A continuación, para todos los $x \neq 0$, mediante el uso de $x >\sin(x)$ hemos
$$ x^4+x\sin(x)\cos(x)-\sin^2(x) >x^2 \sin^2(x)+\sin^2(x)\cos(x)-\sin^2(x)$$
$$=\sin^2(x)(x^2+\cos(x)-1)>\sin^2(x)(x^2+\cos^2(x)-1)=\sin^2(x)(x^2-\sin^2(x))>0$$
P. S. Solo para aclarar, necesitamos hacer primero la reducción al primer cuadrante para asegurarse de que $x> \sin(x)$ implica que las desigualdades del tipo $x\sin(x)\cos(x) > \sin^2(x)\cos(x) $
P. P. S también sospecho que $f'(x) >0$$x>0$, lo que llevaría a una segunda prueba de que el problema. Tenga en cuenta que
$$f'(x)=4x^3+x \cos(2x)-\frac{1}{2}\sin(2x)$$
que puede ser de fácil demostrado ser positivo en $(0,\frac{\pi}{2}]$$(\frac{\pi}2, \infty)$.
AÑADIDO: Segunda solución
$$f''(x)= 12x^2 -2x \sin(2x)$$
Si $x>0$ desde $\sin(2x)<2x$ hemos
$$12x^2 -2x \sin(2x)> 12x^2-2x\cdot(2x)>0$$
Por lo tanto $f'(x)$ es estrictamente creciente en a $[0, \infty)$. Desde $f'(0)=0$ tenemos que $f'(x)>0$ todos los $x>0$. Por lo tanto $f(x)$ es estrictamente creciente en a $[0, \infty)$, y desde $f(0)=0$, se deduce que el $f(x)=0$ no tiene solución en $(0, \infty)$. Desde $f(x)$ es incluso, se deduce que el $x=0$ es la única solución.