Rompí la parte no homogénea $\cos^2(x)$ en $\frac12 -\frac12[\cos(2x)]$
y configuré mi solución de prueba como $$ \begin{split} Y_p &= A +B\sin(2x)+C\cos(2x)\\ Y'_p &= 2B\cos(2x)-2C\sin(2x)\\ Y''_p &= -4B\sin(2x)-4C\cos(2x) \end{split} $$ y después de sustituir estos valores en la EDO no consigo nada. Comparo $8B\cos(2x)-4C\cos(2x)$ con $-0.5\cos(2x)$ y me sale $C=(16B+1)/8$ y creo que me he equivocado aquí ya que no sé qué hacer después y las otras soluciones no tenían nada de esto. ¿Y el método del aniquilador puede ser más adecuado para este tipo de preguntas o el método de los coeficientes indeterminados está bien para esto?