Supongamos que buscamos evaluar $$\frac{1}{2} \int_0^{2\pi} \frac{1}{a+b\sin^2 x} dx.$$
Pon $z = \exp(ix)$ de manera que $dz = i\exp(ix) \; dx$ y por lo tanto $\frac{dz}{iz} = dx$ para obtener $$\frac{1}{2} \int_{|z|=1} \frac{1}{a+b(z-1/z)^2/4/(-1)}\frac{dz}{iz} \\ = \frac{1}{2} \int_{|z|=1} \frac{4}{4a-b(z-1/z)^2}\frac{dz}{iz} \\ = \frac{2}{i} \int_{|z|=1} \frac{z}{4a-b(z-1/z)^2}\frac{dz}{z^2} \\ = \frac{2}{i} \int_{|z|=1} \frac{z}{4az^2-b(z^2-1)^2} dz \\ = \frac{2}{i} \int_{|z|=1} \frac{z}{-bz^4+(2b+4a)z^2-b} dz.$$
Los polos aquí son todos simples y se encuentran en $$\rho_{1,2,3,4} = \pm\sqrt{\frac{2a+b}{b} \pm \frac{2\sqrt{a^2+ab}}{b}}.$$
Reescribimos esto como $$\rho_{1,2,3,4} = \pm\sqrt{1+\frac{2a}{b} \pm \frac{2\sqrt{a^2+ab}}{b}}.$$
Con $a$ y $b$ positivos los primeros dos polos claramente no están dentro del contorno (módulo mayor que uno). Eso deja $$\rho_{3,4} = \pm\sqrt{1+\frac{2a}{b} - \frac{2\sqrt{a^2+ab}}{b}}.
Ahora tenemos $$1+\frac{2a}{b} - \frac{2\sqrt{a^2+ab}}{b} < 1$$ y también $$1+\frac{2a}{b} - \frac{2\sqrt{a^2+ab}}{b} > 0$$ ya que $$(b+2a)^2 = b^2+4ab+4a^2 > 4(a^2+ab)$$ y por lo tanto estos polos están realmente dentro del contorno.
Los residuos están dados por $$\left. \frac{z}{-4bz^3+2(2b+4a)z} \right|_{z=\rho_{3,4}} = \left. \frac{1}{-4bz^2+2(2b+4a)} \right|_{z=\rho_{3,4}}.$$
Esto es $$\frac{1}{-4b-8a+8\sqrt{a^2+ab} +2(2b+4a)} = \frac{1}{8\sqrt{a^2+ab}}.$$
Se sigue que el valor deseado es $$\frac{2}{i}\times 2\pi i \times \frac{2}{8\sqrt{a^2+ab}} = \frac{\pi}{\sqrt{a}\sqrt{a+b}}.