Evalué $$ \int \cos \theta \cos ^5 \left ( \sin \theta\right ) d \theta $$ y llegué a un resultado que es muy similar a lo que puedo comprobar con Mathematica pero no estoy seguro de que sea equivalente, lo que hice es lo siguiente, $$ \int \cos \theta \cos ^5 \left ( \sin \theta\right ) d \theta $$ $$= \int \cos ^4 \left ( \sin \theta\right ) \cos\left ( \sin\theta\right ) \cos \theta d \theta $$ $$= \frac 14 \int \left (1+2 \cos\left (2 \sin\theta\right )+ \cos ^2 \left (2 \sin\theta\right ) \right ) \cos\theta d \theta $$ $$= \frac 14 \int \cos\left ( \sin\theta\right ) \cos \theta d \theta\ ;+\; \frac 12 \int \cos\left (2 \sin\theta\right ) \cos\left ( \sin\theta\right ) \cos \theta d \theta\ ;$$ $$+\; \frac 18 \int \left (1+ \cos\left (4 \sin \theta\right ) \right ) \cos\left ( \sin\theta\right ) \cos\theta d \theta $$ Yo uso $ \cos A \cos B = \frac 12 \left ( \cos\left (A-B \right ) + \cos\left (A+B \right ) \right )$ y yo me quedo, $$= \frac 14 \int \cos\left ( \sin\theta\right ) \cos\theta d \theta\ ;+\; \frac 14 \int \cos\left ( \sin \theta\right ) \cos\theta\ ,d \theta\ ,+\, \frac 14 \int\cos\left (3 \sin\theta\right ) \cos\theta d \theta \;$$ $$+\; \frac 1{8} \int \cos\left ( \sin\theta\right ) \cos \theta\ ,d \theta \;+\; \frac 1{16} \int \cos\left (3 \sin\theta\right ) \cos \theta d \theta \;+\; \frac 1{16} \int \cos\left (5 \sin\theta\right ) \cos \theta d \theta $$ que es igual a $$= \frac 5{8} \int \cos\left ( \sin\theta\right ) \cos \theta\ ,d \theta \;+\; \frac 5{16} \int \cos\left (3 \sin\theta\right ) \cos \theta d \theta \;+\; \frac 1{16} \int \cos\left (5 \sin\theta\right ) \cos \theta d \theta $$
Editar (solución correcta)
Aplicando la sustitución correcta, dejando $u = \sin \theta $ de tal manera que $du = \cos \theta\ ,d \theta $ para conseguir, $$ \frac 58 \int \cos u\,du\;+\; \frac 5{16} \int \cos 3u\, du\;+\; \frac 1{16} \int \cos 5u \,du$$ produce el mismo resultado que $Mathematica$ es decir.., $$ \int \cos \theta \cos ^5 \left ( \sin \theta\right ) d \theta \;=\; \frac 58 \sin\left ( \sin\theta\right )\;+\; \frac 5{48} \sin\left (3 \sin\theta\right ) \;+\; \frac 1{80} \sin\left (5 \sin\theta\right )$$ Por supuesto, la sustitución podría y debería ser aplicada desde el principio, para simplificar. Quería corregir el último paso dejando la pregunta como estaba para otros que pudieran cometer el mismo error que yo y para quien pudiera encontrar esa información útil.