Vale, esta es una integral especialmente dura. Mathematica no da nada analítico, ni pude encontrar una forma en Gradshteyn & Rhyzik que cubriera esta integral. Dicho esto, sigue mereciendo la pena investigar lo que se puede hacer, y creo que tengo algún tipo de avance sobre lo que he visto hasta ahora.
Escribe la integral como
$$I = 4 \int_0^{\infty} dx \: \frac{e^{-x}}{1+2 e^{-x} \cos{x} + e^{-2 x}} $$
Sustituir $y=e^{-x}$ , $dy=-y dx$ , $x=-\log{y}$ y obtener
$$I = 4 \int_0^1 \frac{dy}{1+2 y \cos{(\log{y})} + y^2}$$
Esto sigue siendo una integral difícil, pero tal vez algunos de ustedes reconozcan que el integrando es una función generadora de la Polinomio de Chebyshev de segundo tipo $U_n(x)$ . Es decir, podemos escribir
$$\frac{1}{1+2 y \cos{(\log{y})} + y^2} = \sum_{n=0}^{\infty} U_n(\cos{(\log{y})}) y^n$$
Ahora tenemos
$$I = 4 \int_0^1 dy \: \sum_{n=0}^{\infty} y^n U_n(\cos{(\log{y})}) $$
Todavía no estoy convencido de que se pueda invertir el orden de la suma y la integración. (Al hacerlo, la serie resultante diverge por lo que veo, lo cual es una pena porque los resultados estaban saliendo bien).