Antes de comenzar, veamos una familia relacionada de integrales.
Para cualquier entero $n$ y $\lambda \in \mathbb{R}$, sea $J_n(\lambda)$ la integral
$$J_n(\lambda) \stackrel{def}{=} \int_{-\pi}^{\pi} e^{in(x+\lambda\sin(3x))} dx$$
Es fácil ver que $J_0(\lambda) = 2\pi$ independientemente de $\lambda$. Además, $J_n(\lambda) = 0$ a menos que $3$ divida a $n$.
Para ver esto, usamos el hecho de que $\sin(3x)$ es periódico con período $\frac{2\pi}{3}$. Esto nos permite reescribir $J_n(\lambda)$ como $$\left(\int_{-\pi}^{-\frac{\pi}{3}} + \int_{-\frac{\pi}{3}}^{\frac{\pi}{3}} + \int_{\frac{\pi}{3}}^{\pi}\right)e^{in(x+\lambda\sin(3x))} dx = \left(\int_{-\frac{\pi}{3}}^{\frac{\pi}{3}}e^{in(x+\lambda\sin(3x))} dx\right) \left(e^{-i\frac{2\pi n}{3}} + 1 + e^{i\frac{2\pi n}{3}}\right) $$ Cuando $n$ no es divisible por $3$, $J_n(\lambda)$ desaparece debido al factor $e^{-i\frac{2\pi n}{3}} + 1 + e^{i\frac{2\pi n}{3}}$.
Volviendo al problema original. Dado que tanto $x$ como $\sin(3x)$ son funciones impares, la suma también lo es. Junto con $\sin^4(x)$ siendo una función par, encontramos que el integrando es una función par.
Como resultado,
$$\begin{align}\int_0^\pi \sin^4(x + \sin(3x)) dx &= \frac12\int_{-\pi}^\pi \sin^4(x + \sin(3x))dx\\ &= \frac12\int_{-\pi}^\pi\left(\frac{ e^{i(x+\sin(3x))} - e^{-i(x+\sin(3x))}}{2i}\right)^4 dx\\ &= \frac{1}{32}\left[ J_4(1) - 4 J_2(1) + 6J_0(1) - 4J_{-2}(1) + J_{-4}(1)\right]\\ &= \frac{1}{32}\left[ 0 - 4(0) + 6(2\pi) - 4(0) + 0\right]\\ &= \frac{3\pi}{8} \end{align} $$
Acerca de la familia de integrales mencionada en la pregunta/comentario, tenemos
$$\int_0^\pi \cos (2^n x + k \sin (3x)) dx = \frac12 \int_{-\pi}^\pi \cos (2^n x + k \sin (3x)) dx = \frac14 \left(J_{2^n}(k') + J_{-2^n}(k')\right) $$ donde $k' = \frac{k}{2^n}$. Dado que $2^n$ no es divisible por $3$, todas evalúan a $0$.
1 votos
¿Qué te lleva a creer que hay una respuesta en forma cerrada "agradable"?
1 votos
Creo que necesitarás un método numérico.
0 votos
Es aproximadamente 1.1781
2 votos
Creo que las propiedades de simetría de las funciones trigonométricas pueden ser explotadas para demostrar que las integrales en la última línea ambas son iguales a $0$.
3 votos
Algunos experimentos numéricos parecen mostrar que $\int_0^\pi \cos (2^n x + k \sin (3x))\, dx = 0$ para cualquier entero no negativo $n$ y cualquier número real $k$.