Vamos a suponer que $a \in \mathbb{N}$, de lo contrario, la integral no converge.
Utilizamos un contorno rectangular $C$ con muescas cortar de la siguiente manera:
Consideremos primero la siguiente integral:
$$\oint_C dz\, e^{-b z} \coth{z}$$
Tenga en cuenta que vamos a estar tomando las $b=(1-i) a$. Por Cauchy de la Integral Teorema, esta integral es cero porque no hay polos en el interior (o en) $C$. Por otro lado, el contorno de la integral se evalúa a lo largo de $C$ y puede ser dividido en seis piezas de la siguiente manera:
$$\int_{\epsilon}^R dx \, e^{-b x} \coth{x} + i \int_0^{\pi} dy \, e^{-b (R+i y)} \, \coth{(R+i y)} + \\ \int_R^{\epsilon} dx \, e^{b (x+i \pi)} \, \coth{(x+i \pi)} + i \epsilon \int_0^{-\pi/2} d\phi \, e^{i \phi} \, e^{-b \left (i \pi+ \epsilon e^{i \phi}\right)} \coth{\left (\epsilon e^{i \phi}\right)} + \\ i \int_{\pi-\epsilon}^{\epsilon} dy \, e^{-i b y} \, \coth{i y} + i \epsilon \int_0^{\pi/2} d\phi \, e^{i \phi} \, e^{-b \epsilon e^{i \phi}} \, \coth{\left (\epsilon e^{i \phi}\right)}$$
Tomamos los límites de $\epsilon \to 0^+$$R \to \infty$. La segunda integral se desvanece en este límite debido a $\Re{b} \gt 0$. La configuración de esta suma de las integrales a cero y reorganizar un poco, obtenemos
$$\left (1-e^{-i \pi b}\right) \int_0^{\infty} dx \, e^{-b x} \, \coth{x} = \int_0^{\pi} dy \, e^{-i b y} \, \cot{y} + i \frac{\pi}{2} \left (1+e^{-i \pi b}\right)$$
Tenga en cuenta que, en la primera integral en el lado derecho, he utilizado el hecho de que $\coth{i y} = -i \cot{y}$.
Ahora estamos listos para comenzar a hablar de la integral original. A partir de la ecuación anterior, tomamos imaginaria; desde el hecho de que $b=(1-i) a$, podemos escribir
$$\int_0^{\infty} dx \, e^{-a x} \, \sin{a x} \, (\coth{x} + \cot{x}) = \frac{\pi}{2} \frac{1+(-1)^a e^{-\pi a}}{1-(-1)^a e^{-\pi a}} +\\ \int_0^{\infty} dx \, e^{-a x} \, \sin{a x} \cot{x} - \frac{1}{1-(-1)^a e^{-\pi a}} \int_0^{\pi} dx \, e^{-a x} \, \sin{a x} \cot{x}$$
Recuerde que $a$ es un entero positivo. Voy a probar ahora que los dos últimos términos en el lado derecho de cancelar los unos a los otros.
Tomemos el caso en que $a=2 n$, es decir, $a$ es incluso. Entonces
$$\begin{align}\int_0^{\pi} dx \, e^{-2 n x} \, \sin{2 n x} \cot{x} &= \int_0^{\pi} dx \, e^{-2 n x} \, \frac{\sin{2 n x}}{\sin{x}} \cos{x} \\ &= \int_0^{\pi} dx \, e^{-2 n x} \, 2 \sum_{k=0}^{n-1} \cos{[(2 k+1) x]} \cos{x} \\ &= \int_0^{\pi} dx \, e^{-2 n x} \, \left[1 + 2 \sum_{k=1}^{n-1}\cos{2 k x} + \cos{2 n x}\right] \\ &= \frac{1-e^{-2 \pi}}{2 n} + 2 \sum_{k=1}^{n-1} \Re{\left [ \int_0^{\pi} dx \, e^{-(2 n-i 2 k) x} \right ]} + \Re{\left [ \int_0^{\pi} dx \, e^{-(2 n-i 2 n) x} \right ]} \\ &= \frac{1-e^{-2 \pi}}{2 n}+ 2\sum_{k=1}^{n-1} \Re{\left [ \frac{1-e^{-2 n \pi}}{2 n-i 2 k} \right]} + \Re{\left [ \frac{1-e^{-2 n \pi}}{2 n-i 2 n} \right]}\\ &= \frac{1-e^{-2 \pi}}{2 n}+2 \left ( 1-e^{-2 n \pi}\right)\sum_{k=1}^{n-1} \Re{\left [\frac{2 n+i 2 k}{4 n^2+4 k^2} \right ]} +\left ( 1-e^{-2 n \pi}\right)\Re{\left [\frac{2 n+i 2 n}{4 n^2+4 n^2} \right ]} \\ &=\left ( 1-e^{-2 n \pi}\right) \left [ \frac{1}{n} + n \sum_{k=1}^{n-1}\frac{1}{n^2+k^2} \right ] \end{align}$$
Del mismo modo, uno puede mostrar que
$$\begin{align}\int_0^{\infty} dx \, e^{-2 n x} \, \sin{2 n x} \cot{x} &= \frac{1}{n} + n \sum_{k=1}^{n-1}\frac{1}{n^2+k^2}\\ &= \frac{1}{1-e^{-2 n \pi}}\int_0^{\pi} dx \, e^{-2 n x} \, \sin{2 n x} \cot{x} \end{align}$$
La cancelación se produce cuando $a$ es incluso. Uno puede mostrar que esta cancelación se produce también cuando se $a$ es impar, es decir, cuando se $a=2 n-1$ en una manera similar, utilizando el hecho de que
$$\frac{\sin{(2 n-1) x}}{\sin{x}} = 1+2 \sum_{k=1}^{n-1} \cos{2 k x}$$
Luego, podemos escribir
$$\int_0^{\infty} dx \, e^{-a x} \, \sin{a x} \, (\coth{x} + \cot{x}) = \frac{\pi}{2} \frac{1+(-1)^a e^{-\pi a}}{1-(-1)^a e^{-\pi a}}$$
o, en términos de las funciones hiperbólicas, para $n \in \mathbb{N}$:
$$\int_0^{\infty} dx \, e^{-a x} \, \sin{a x} \, (\coth{x} + \cot{x}) = \begin{cases} \frac{\pi}{2} \coth{\pi n} & a = 2 n \\ \frac{\pi}{2} \tanh{\left ( n+\frac12\right) \pi} & a = 2 n+1\end{cases}$$
Uno puede fácilmente demostrar que esto concuerda con el resultado.