Voy a describir cómo este problema puede ser atacado mediante el análisis complejo. Este es un sorprendentemente involucrados problema que me confundió mucho más fácil en la que los senos y cosenos se han revertido. Pero esta vez es un ejercicio útil en la creación de un contorno integral y aplicando el teorema de los residuos. Es muy satisfactorio ver que el resultado correcto aparece después de todo el análisis y la manipulación.
Primero reconocer que
$$\int_0^{\pi} dx \frac{x \cos{x}}{1+\sin^2{x}} = \left [\frac{\partial}{\partial \alpha} \int_0^{\pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}}\right ]_{\alpha=1}$$
La idea es de alguna manera estirar la integración de intervalo sobre el círculo unidad. Si nosotros en lugar de considerar la integral
$$\begin{align}\int_0^{2 \pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}} &= \int_0^{\pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}}+\int_{\pi}^{2 \pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}} \\ &= (1+\cos{\pi \alpha}) \int_0^{\pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}}+\sin{\pi \alpha} \int_0^{\pi} dx \frac{\cos{\alpha x}}{1+\sin^2{x}}\end{align}$$
Tenga en cuenta que la segunda integral en el lado derecho puede ser extendido a más de $[-\pi,\pi]$ debido a la uniformidad del integrando.
Ahora tenemos la deseada integral se expresa en términos de las dos integrales que ahora puede ser expresada en términos de una integral sobre el círculo unidad en el plano complejo.
Consideramos que la siguiente integral:
$$i 4 \oint_{C_{\pm}} dz \frac{z^{1+\alpha}}{z^4-6 z^2+1} $$
donde $C_{\pm}$ es un ojo de la cerradura de contorno sobre el positivo/negativo del eje real, que atraviesa la unidad de círculo hacia la izquierda, semicircular con rodeos acerca de los respectivos polos acerca de $\pm (\sqrt{2}-1)$. (Para una configuración similar, ver esta respuesta.)
Por ejemplo, $C_-$ es el siguiente contorno
que es una modificación del ojo de la cerradura de contorno sobre el eje real negativo dentro del círculo unidad. La modificación es un par de semicircular golpes de radio $\epsilon$ sobre el punto de $z=-1+\sqrt{2}$. Estas protuberancias son necesarios, ya que el integrando tiene un polo dentro del círculo unidad en la rama elegida corte de el integrando (es decir, el eje real negativo).
Voy a dejar la parametrización de la integral de contorno para el lector, por el momento. Utilizando el teorema de los residuos, podemos determinar que
$$\int_0^{\pi} dx \frac{\sin{\alpha x}}{1+\sin^2{x}} = \frac{\pi}{2 \sqrt{2}} \left (\sqrt{2}-1 \right )^{\alpha} \sin{\pi \alpha} - 8 \sin^2{\frac{\pi \alpha}{2}} PV \int_0^1 dx \frac{x^{1+\alpha}}{x^4-6 x^2+1}$$
Tomando la derivada y la configuración de $\alpha=1$ a ambos lados, nos encontramos con que
$$\int_0^{\pi} dx \frac{x \cos{x}}{1+\sin^2{x}} = -\frac12 \left (1-\frac1{\sqrt{2}} \right )\pi^2 - 8 PV \int_0^1 dx \frac{x^2 \log{x}}{x^4-6 x^2+1} $$
Ahora,
$$\frac{8 x^2}{x^4-6 x^2+1} = \left (1+\frac1{\sqrt{2}} \right ) \left (\frac1{x-(\sqrt{2}+1)}- \frac1{x+(\sqrt{2}+1)}\right ) \\ - \left (1-\frac1{\sqrt{2}} \right ) \left (\frac1{x-(\sqrt{2}-1)}- \frac1{x+(\sqrt{2}-1)}\right )$$
Las integrales individual puede ser expresada en términos de polylogs:
$$\int_0^1 dx \frac{\log{x}}{x-(\sqrt{2}+1)} = \operatorname{Li}_2{(\sqrt{2}-1)} $$
$$\int_0^1 dx \frac{\log{x}}{x+(\sqrt{2}+1)} = \operatorname{Li}_2{(-(\sqrt{2}-1))} $$
$$PV \int_0^1 dx \frac{\log{x}}{x-(\sqrt{2}-1)} = \frac{\pi^2}{3} - \frac12 \log^2{(1+\sqrt{2})}- \operatorname{Li}_2{(\sqrt{2}-1)} $$
$$\int_0^1 dx \frac{\log{x}}{x+(\sqrt{2}-1)} = \operatorname{Li}_2{(-(\sqrt{2}+1))} $$
Entonces
$$ 8 PV \int_0^1 dx \frac{x^2 \log{x}}{x^4-6 x^2+1} = \left (1+\frac1{\sqrt{2}} \right ) \left [\operatorname{Li}_2{(\sqrt{2}-1)}- \operatorname{Li}_2{(-(\sqrt{2}-1))}\right ]\\ - \left (1-\frac1{\sqrt{2}} \right ) \left [\frac{\pi^2}{3} - \frac12 \log^2{(1+\sqrt{2})}- \operatorname{Li}_2{(\sqrt{2}-1)}-\operatorname{Li}_2{(-(\sqrt{2}+1))} \right ] $$
Aplicamos las siguientes identidades para $z \lt 0$ $0 \lt z \lt 1$ respectivamente:
$$\operatorname{Li}_2{(z)} + \operatorname{Li}_2{\left(\frac1{z}\right )} = -\frac{\pi^2}{6}-\frac12 \log^2{(-z)} $$
$$\operatorname{Li}_2{\left(\frac{1-z}{1+z}\right )} - \operatorname{Li}_2{\left(-\frac{1-z}{1+z}\right )} = \operatorname{Li}_2{(-z)}-\operatorname{Li}_2{(z)} + \frac{\pi^2}{4} + \log{z} \log{\left(\frac{1+z}{1-z}\right )}$$
En la identidad de la primera, vamos a $z=-(\sqrt{2}-1)$; en la segunda identidad, vamos a $z=\sqrt{2}-1$. Para el último caso, es fortuito que $z=(1-z)/(1+z)$. Tenemos
$$\operatorname{Li}_2{(-(\sqrt{2}-1))}+\operatorname{Li}_2{(-(\sqrt{2}+1))}=-\frac{\pi^2}{6}-\frac12 \log^2{(\sqrt{2}+1)} $$
$$\operatorname{Li}_2{(\sqrt{2}-1)}-\operatorname{Li}_2{(-(\sqrt{2}-1))} = \frac{\pi^2}{8} - \frac12 \log^2{(\sqrt{2}+1)} $$
Ahora podemos empezar a poner todo esto:
$$ 8 PV \int_0^1 dx \frac{x^2 \log{x}}{x^4-6 x^2+1} = \left (1+\frac1{\sqrt{2}} \right ) \left [\frac{\pi^2}{8} - \frac12 \log^2{(\sqrt{2}+1)}\right ]\\ - \left (1-\frac1{\sqrt{2}} \right ) \left [\frac{9 \pi^2}{24} + \frac12 \log^2{(\sqrt{2}+1)} \right ] $$
Con un poco más de la aritmética, podemos concluir que
$$\int_0^{\pi} dx \frac{x \cos{x}}{1+\sin^2{x}} = \log^2{(\sqrt{2}+1)} - \frac{\pi^2}{4} $$
ANEXO
Voy a dar detalles en cuanto a la evaluación de la integral de contorno por el teorema de los residuos. De nuevo, considere por encima de la integral de contorno:
$$i 4 \oint_{C_-} dz \frac{z^{1+\alpha}}{z^4-6 z^2+1} $$
Como se puede ver en la figura, este contorno tiene 8 segmentos, las integrales sobre que voy a escribir ahora en detalle. Deje $z_0=\sqrt{2}-1$.
$$\int_{-\pi}^{\pi} d\phi \frac{e^{i \alpha \phi}}{1+\sin^2{\phi}} + i 4 e^{i \pi \alpha} \int_1^{z_0+\epsilon} dx \frac{x^{1+\alpha}}{x^4-6 x^2+1} \\ -4 \epsilon \int_{\pi}^0 d\phi \, e^{i \phi} \frac{(e^{i \pi} z_0 + \epsilon e^{i \phi})^{1+\alpha}}{ (-z_0+\epsilon e^{i \phi})^4– 6 (-z_0+\epsilon e^{i \phi})^2 + 1} + i 4 e^{i \pi \alpha} \int_{z_0-\epsilon}^{\epsilon} dx \frac{x^{1+\alpha}}{x^4-6 x^2+1} \\ - 4 \epsilon \int_{\pi}^{-\pi} d\phi \, e^{i \phi} \frac{\epsilon^{1+\alpha} e^{i (1+\alpha) \phi}}{\epsilon^4 e^{i 4 \phi} – 6 \epsilon^2 e^{i 2 \phi}+1} + i 4 e^{-i \pi \alpha} \int_{\epsilon}^{z_0-\epsilon} dx \frac{x^{1+\alpha}}{x^4-6 x^2+1} \\ -4 \epsilon \int_0^{-\pi} d\phi \, e^{i \phi} \frac{(e^{-i \pi} z_0 + \epsilon e^{i \phi})^{1+\alpha}}{ (-z_0+\epsilon e^{i \phi})^4– 6 (-z_0+\epsilon e^{i \phi})^2 + 1} + i 4 e^{-i \pi \alpha} \int_{z_0+\epsilon}^{1} dx \frac{x^{1+\alpha}}{x^4-6 x^2+1}$$
lo que es igual, en el límite de $\epsilon \to 0$,
$$\int_{-\pi}^{\pi} d\phi \frac{e^{i \alpha \phi}}{1+\sin^2{\phi}} + i 4 e^{i \pi \alpha} PV \int_1^0 dx \frac{x^{1+\alpha}}{x^4-6 x^2+1} \\ + i 4 e^{-i \pi \alpha} PV \int_0^1 dx \frac{x^{1+\alpha}}{x^4-6 x^2+1} - \frac{\pi z_0^{\alpha}}{2 \sqrt{2}} \left (e^{i \pi \alpha} + e^{-i \pi \alpha} \right ) $$
El contorno de la integral es igual a $i 2 \pi$ veces el residuo en la pole $z=\sqrt{2}-1$ o $2 \pi z_0^{\alpha}/(2 \sqrt{2}) e^{i \pi \alpha}$. Por lo tanto, hemos
$$\int_{-\pi}^{\pi} d\phi \frac{\cos{\alpha \phi}}{1+\sin^2{\phi}} = \frac{\pi}{\sqrt{2}} z_0^{\alpha} (1+\cos{\pi \alpha}) – 8 \sin{\pi \alpha} \, PV \int_0^1 dx \frac{x^{1+\alpha}}{x^4-6 x^2+1}$$
Usando el contorno de $C_+$, podemos encontrar el valor de la otra integral:
$$\int_0^{2 \pi} d\phi \frac{\sin{\alpha \phi}}{1+\sin^2{\phi}} = \frac{\pi}{\sqrt{2}} z_0^{\alpha} \sin{\pi \alpha} (1+\cos{\pi \alpha}) – 8 \sin^2{\pi \alpha} \, PV \int_0^1 dx \frac{x^{1+\alpha}}{x^4-6 x^2+1}$$
El resultado de la siguiente manera.