Demasiado largo para un comentario. $K(z)$ está relacionado con las Fórmulas Binet del Logaritmo Gamma Binet's, donde el único factor diferente es $2\,i$. La relación entre la integral en las fórmulas de Binet y la tuya debe ser demostrada.
EDITAR: Intenté mostrar la relación y demostrar la identidad:
$\int_0^{\infty } \frac{e^{-tz} \left(\frac{t}{2} \cot \ \left(\frac{t}{2}\right)-1\right)}{t^2} \, dt=-2 \int_0^{\infty } \ \frac{\tanh ^{-1}\left(\frac{t}{z}\right)}{e^{2 \pi t}-1} \, dt$ para $z=\frac{m^2}{2a}$
Experimentos numéricos muestran que el lado derecho es solo una aproximación del lado izquierdo para $z>>1$. En otras palabras, tu solución es solo una aproximación.
Prueba de la identidad
La afirmación anterior no es correcta, logré encontrar la prueba de la identidad.
Comenzamos con la identidad anterior:
$$\int_0^{\infty } \frac{e^{-m^2 x} (a x \cot (a x)-1)}{x^2} \, dx=a \ K\left[\frac{i\, m^2}{2 a}\right]$$
con
$$K(z)=2 i \left(\left(z-\frac{1}{2}\right) \log (z)-z-\log (\Gamma \ (z))+\frac{1}{2} \,\log (2\, \pi )\right)$$
- Sustitución de variable:
Definir: $y = 2 \,a\, x$ y $z=\frac{i\,m^2}{2\,a}$
$$\int_0^{\infty } \frac{2\, a \,\left(\frac{y}{2} \,\cot \left(\frac{y}{2}\right)-1\right) e^{i\,z\,y}}{y^2}\, dy=2\,a\, i \left(\left(z-\frac{1}{2}\right) \log (z)-z-\log (\Gamma \ (z))+\frac{1}{2} \,\log (2\, \pi )\right)$$
- Diferenciación
Diferenciar ambos lados con respecto a z:
$$\int_0^{\infty } \frac{e^{i\, y \,z} \left(\frac{y}{2}\, \cot\left(\frac{y}{2}\right)-1\right)}{y} \, dy=-\frac{1}{2 z}+\log \ (z)-\psi(z)$$
donde $\psi(z)$ es la función digamma.
3.) Redefinir z
Es más fácil continuar con $w=\frac{z}{i}$
4.) Integración
Dividimos la integral indefinida en dos partes:
$$\int \frac{e^{-w\, y} \left(\frac{y}{2} \cot \left(\frac{y}{2}\right)-1\right)}{y} \, dy=\frac{1}{2} \int e^{-w \,y} \cot \left(\frac{y}{2}\right)\, dy-\int \frac{e^{-w\, y}}{y} \, dy$$
y sustituimos los límites de integración más tarde. La primera integral es simplemente la mitad de la Transformada de Laplace de ${\cot \left(\frac{y}{2}\right)}$. La última integral es la conocida función ExpIntegraE - $\text{Ei}(-w\, y)$. La primera integral también se puede hacer alternativamente con Mathematica:
$$\frac{1}{2} \int e^{-w\, y} \cot \left(\frac{y}{2}\right) \, \ dy=-\,\frac{1}{2} \left(B_{e^{i\, y}}(1+i\, w,0) + B_{e^{i\, y}}(i\, w,0)\right)$$
donde $B_z(a,b)$ es la función beta de Euler. Se puede demostrar eso mediante diferenciación.
5.) Inserción de los límites de integración
Si insertamos los límites de integración, finalmente obtenemos:
$$\int_0^{\infty } \frac{e^{-w\, y} \left(\frac{y}{2} \cot\left(\frac{y}{2}\right)-1\right)}{y} \, dy= -\, \frac{1}{2} \left(\log\left(-\frac{1}{z}\right)-\log(-z)+\psi(1+i\, z)+\psi(i\, z)-i \,\pi \right)$$
Simplificación adicional y usando:
$$\frac{1}{2} \psi(1+i\, z)+\frac{\psi(i \,z)}{2}=\psi(i\, w)-\frac{i}{2\, w}$$ nos lleva a la identidad postulada.
