Cuando usted escribe $5*-3^2$, la prioridad de operaciones significa que primero se compute $3^2$, luego se multiplica el resultado por $-1$, luego se multiplica el entero por $5$. Esto es no lo que usted quiere.
No tengas miedo de paréntesis! La mejor manera de escribir esto, si quieres insistir en poner el $*$ (normalmente, sólo escribir la multiplicación por yuxtaposición) sería:
$$f(-3) = (3*(-3)^3) - (5*(-3)^2) - (4*(-3)) + 4.$$
Más sucintamente, se puede escribir como:
$$f(-3) = 3(-3)^3 - 5(-3)^2 - 4(-3) + 4.$$
Por el orden de prioridad, primero se debe calcular el exponenciales, a continuación, los productos, las sumas.
Dicho esto, no creo que se calculan $f(-3)$ correctamente.