No requiere el cálculo de un residuo, sino que involucra las integrales de contorno :-)
Usted puede escribir la integral como
$$\int_0^\infty\cos (x)x^{-a}\mathrm dx=\Re\int_0^\infty\mathrm e^{\mathrm ix}x^{-a}\mathrm dx\;.$$
A continuación, puede ampliar el contorno sobre el eje real positivo a un contorno cerrado por la integración a lo largo del eje imaginario positivo y a lo largo de un cuarto de círculo en el infinito. Desde $a>0$, la contribución del círculo se desvanece en el límite. Dado que el integrando no tiene polos en el interior del contorno, las dos integrales a lo largo de la real positivo y el eje imaginario debe cancelar a la otra. (Para ser rigurosos, habría que tener también un límite en el origen, ya que la función no está holomorphic allí, se puede integrar en un pequeño cuarto de círculo en torno al origen de vincular el eje real y el eje imaginario; desde $a<1$, la contribución de ese círculo también se desvanece en el límite.)
Así que su integral es sólo la parte real de la integral a lo largo del eje imaginario positivo, que es
$$
\begin{eqnarray}
\Re\int_0^\infty\mathrm e^{\mathrm i\mathrm i x}(\mathrm ix)^{-a}\mathrm d(\mathrm ix)
&=&
\Re\int_0^\infty\mathrm e^{-x}x^{-a}\mathrm i^{1-a}\mathrm dx
\\
&=&
\Re\left(\mathrm i^{1-a}\right)\int_0^\infty\mathrm e^{-x}x^{-a}\mathrm dx
\\
&=&
\Re\left(\mathrm e^{(1-a)\frac{\pi}{2}\mathrm i}\right)\int_0^\infty\mathrm e^{-x}x^{-a}\mathrm dx
\\
&=&
\cos\left((1-a)\frac{\pi}{2}\right)\int_0^\infty\mathrm e^{-x}x^{-a}
\mathrm dx\;.
\end{eqnarray}
$$