Si se me permite usar contornos para mostrar esto.
Considere $\displaystyle I=\frac{z^{a}}{z^{2}-2z\cos(b)+1}, \;\ 0<a<1, \;\ 0<b<\pi$
Utilice un semicírculo en la UHP con centro en el origen.
Los polos se encuentran en $z=e^{\pm ib}=\cos(b)\pm i\sin(b)$
A lo largo del eje x:
$$\int_{-\infty}^{0}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx+\int_{0}^{\infty}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx$$
Dejemos que $x\to -x$ en la primera integral y obtener:
$$\int_{0}^{\infty}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx+\int_{0}^{\infty}\frac{(-1)^{a}x^{a}}{x^{2}+2x\cos(b)+1}dx, \;\ e^{\pi ia}=(-1)^{a}$$
Redondea el gran arco:
$$\int_{0}^{\pi}\frac{R^{a}e^{ia\theta}iRe^{i\theta}}{R^{2}e^{2i\theta}-2Re^{i\theta}\cos(b)+1}d\theta$$
que, desde $a<1$ se desvanece como $R\to 0$
Utilizando $z=e^{ib}+re^{i\phi}$ el residuo en $e^{ib}$ es
$$2\pi i Res(e^{ib})=2\pi i \lim_{r\to 0}\frac{(e^{ib}+re^{i\phi})^{a}}{e^{ib}+re^{i\phi}-e^{-ib}}$$
$$=\frac{2\pi i e^{iab}}{e^{ib}-e^{-ib}}=\frac{\pi}{\sin(b)}e^{iab}$$
Así,
$$\int_{0}^{\infty}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx+e^{i\pi a}\int_{0}^{\infty}\frac{x^{a}}{x^{2}+2x\cos(b)+1}dx=\frac{\pi}{\sin(b)}e^{iab}$$
Equiparar las partes reales e imaginarias:
$$\int_{0}^{\infty}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx+\cos(\pi a)\int_{0}^{\infty}\frac{x^{a}}{x^{2}+2x\cos(b)+1}dx=\frac{\pi}{\sin(b)}\cos(ab)$$
y $$\sin(\pi a)\int_{0}^{\infty}\frac{x^{a}}{x^{2}+2x\cos(b)+1}dx=\frac{\pi}{\sin(b)}\sin(ab)$$
Por lo tanto, tenemos un dos por uno:
$$\int_{0}^{\infty}\frac{x^{a}}{x^{2}+2x\cos(b)+1}dx=\frac{\pi}{\sin(b)}\frac{\sin(ab)}{\sin(\pi a)}$$ y
$$\int_{0}^{\infty}\frac{x^{a}}{x^{2}-2x\cos(b)+1}dx=\frac{\pi}{\sin(b)}\frac{\sin(a(\pi -b))}{\sin(\pi a)}$$
La última se desprende de la primera al escribir $\pi -b$ para $b$ .