Así es como resuelvo este tipo de problemas. Me parece mucho, mucho más fácil de recordar que los métodos presentados en casi todos los libros de texto. Es un poco más de trabajo, pero no hay trucos, ni astucia, y tiene la ventaja de que siempre funciona.
Dejemos que $p$ y $q$ sean números enteros. Entonces:
$$\frac{d}{dx}(\sin^p x\, \cos^q x) = p\,\sin^{p-1} x\,\cos^{q+1} x - q\,\sin^{p+1} x\,\cos^{q-1} x$$
Lo que quiero que noten es que la derivada de $\sin^p x\, \cos^q x$ es una combinación lineal de términos de la forma $\sin^r x\, \cos^s x$ , donde $r+s=p+q$ . Además, si $p$ es impar, entonces todos los $r$ son pares, y viceversa, y la misma relación se mantiene entre $q$ y $s$ .
Lo lógico es que ocurra lo contrario si se integra. Así, por ejemplo, si $p$ y $q$ son ambos Impares, entonces:
$$\int \sin^p x\, \cos^q x\,dx = \sum\limits_{i=0}^{(p+q)/2}\,\alpha_{i} \sin^{2i} x\,\cos^{p+q-2i} x + C$$
donde $\alpha_i$ son constantes.
Desgraciadamente, hay un inconveniente. Si $p$ y $q$ son ambos pares, entonces te encuentras con el problema de que:
$$\sin^2 x + \cos^2 x = 1$$
Este es el teorema de Pitágoras, y es una de las dos identidades trigonométricas que debes memorizar. (¿Cuál es la otra y por qué sólo necesitas dos? Es una larga historia, y este post ya se está alargando bastante).
Así que si $p$ y $q$ son ambos pares:
$$\int \sin^p x\, \cos^q x\,dx = \sum\limits_{i=0}^{(p+q)/2}\,\alpha_{i} \sin^{2i} x\,\cos^{p+q-2i} x + \beta x + C$$
Te dejaré resolver el caso en el que uno de $p,q$ es impar y el otro es par. No es necesario que elabores una fórmula general, simplemente calcula lo que sucederá cualitativamente.
Para integrar $\int \sin^p x\, \cos^q x\,dx$ Por lo tanto, utiliza la forma más general incluyendo las constantes desconocidas, toma la derivada de ambos lados, simplifica, iguala los coeficientes y luego resuelve las incógnitas.
Así que para su primer ejemplo, esperaríamos:
$$\int \sin^4 x\, \cos^0 x\,dx = \alpha_0 \sin x\, \cos^3 x + \alpha_1 \sin x\, \cos^3 x + \beta x + C$$
Para manejar $\beta$ utilizamos el hecho de que..:
$$1 = \sin^2 x + \cos^2 x$$
Así que tomando la derivada de ambos lados:
$$\sin^4 x = \alpha_0 \frac{d}{dx}\sin x\, \cos^3 x + \alpha_1 \frac{d}{dx}\sin^3 x\, \cos x + \beta (\sin^2 x + \cos^2 x)^2$$
Eso es:
$$\sin^4 x = \alpha_0 (\cos^4 x - 3 \sin^2 x\,\cos^2 x) + \alpha_1 (3 \sin^2 x\,\cos^2 x - \sin^4 x) + \beta(\sin^4 x + 2 \sin^2 x\,\cos^2 x + \cos^4 x)$$
El reordenamiento da:
$$\sin^4 x = (\alpha_0 + \beta) \cos^4 x + (- 3 \alpha_0 + 3 \alpha_1 + 2 \beta) \sin^2 x\,\cos^2 x + (- \alpha_1 + \beta) \sin^4 x$$
Si se emparejan los coeficientes se obtiene el sistema de ecuaciones lineales:
$$\alpha_0 + \beta = 0$$ $$-3 \alpha_0 + 3 \alpha_1 + 2 \beta = 0$$ $$-\alpha_1 + \beta = 1$$
Hay tres ecuaciones y tres incógnitas. (En realidad hay cuatro incógnitas, pero $C$ no tiene restricciones). Resuelve utilizando tu método favorito para encontrar:
$$\alpha_0 = -3/2$$ $$\alpha_1 = 1/2$$ $$\beta = 3/2$$
Eso es:
$$\int \sin^4 x\,dx = -\frac{3}{2} \sin x\, \cos^3 x + \frac{1}{2} \sin^3 x\, \cos x + \frac{3}{2} x + C$$
Como siempre, toma la derivada para comprobar tu respuesta. (Descargo de responsabilidad: yo no lo he hecho).
Ten en cuenta que este método también es ligeramente autocorrectivo, en el sentido de que si adivinaste incorrectamente la forma de la integral, terminarás con un sistema de ecuaciones que no puedes resolver.
Para tu segunda pregunta, por cierto, puedes superponer las dos integrales:
$$\int \sin^3 x\,\cos x + \sin x\,\cos^3 x\,dx = \alpha_0 \sin^4 x + \alpha_1 \sin^2 x\,\cos^2 x + \alpha_2 \cos^4 x + C$$
No he resuelto este (lo he dejado como ejercicio), sin embargo, en este caso, resulta que sé que acabarás con un sistema lineal sin solución única. Lo sé porque $C$ es una constante, y por lo tanto es un múltiplo de $(\sin^2 x + \cos^2 x)^2$ . Puede elegir cualquier solución, o simplificar su álgebra estableciendo una de las $\alpha_i$ a cero antes de empezar. En este caso, la configuración de $\alpha_1=0$ da la respuesta de forma más o menos directa. Hay una cierta simetría bonita aquí con el otro caso; antes, hay que añadir un término, y aquí se quita uno.
Como comentario general, la integración es mucho más sistemática de lo que los libros de texto modernos quieren hacer creer. Si te sientes más cómodo derivando que memorizando fórmulas (como es mi caso), muchos problemas que parecen difíciles pueden resolverse de forma sencilla dando un paso atrás y observando lo que ocurre si tomas la derivada de funciones de esa forma. Lo más probable es que si integras, ocurra lo contrario.