Así que aquí utilizaremos el teorema de De Moivre:
Como ha dicho, utilizaremos el hecho de que $\cos(5\theta)+i\sin(5\theta)=(\cos(\theta)+i\sin(\theta))^5$ Así, que consigue esto sólo en términos de $\cos(5\theta)$ podemos escribir $\cos(5\theta)=\Re(\cos(\theta)+i\sin(\theta))^5$
Así que ampliando esto tenemos:
$$\cos(5\theta)=\Re(\cos^5\theta+5i\cos^4\theta\sin\theta+10i^2\cos^3\theta \sin^2\theta+10i^3\cos^2 \theta \sin^3\theta +5i^4\cos\theta \sin^4\theta+i^5\sin^5\theta)$$
Como las partes reales no pueden tener un poder impar de $\sin\theta$ (ya que no dará un número real) obtenemos :
$$\cos(5\theta)=\cos^5\theta+10i^2\cos^3\theta\sin^2\theta+5i^4\cos\theta \sin^4\theta$$
$$\cos(5\theta)=\cos^5\theta-10\cos^3\theta\sin^2\theta+5\cos\theta \sin^4\theta$$
$$\cos(5\theta)=\cos^5\theta-10\cos^3\theta(1-\cos^2\theta)+5\cos\theta (1-\cos^2\theta)^2$$
$$\cos(5\theta)=\cos^5\theta-10\cos^3\theta+10\cos^5\theta+5\cos\theta-10\cos^3\theta+5\cos^5\theta$$
$$\cos(5\theta)=16\cos^5\theta-20\cos^3\theta+5\cos\theta$$
Espero que esto ayude :)