Bueno, supongo que la respuesta es "no" si buscas una solución en forma cerrada.
Pero la representación en series se puede obtener. Uno puede usar la expansión de la función de Bessel: $$ J_n(\beta x) = \sum_{m=0}^\infty \frac{(-1)^m}{m! \, \Gamma(m+n+1)} {\left(\frac{\beta x}{2}\right)}^{2m+n} $$
$$\int_a^b xe^{-\alpha x^2}J_n(\beta x)\mathrm dx=\sum_{m=0}^\infty \frac{(-1)^m}{m! \, \Gamma(m+n+1)} {\left(\frac{\beta}{2}\right)}^{2m+n}\int_a^b e^{-\alpha x^2}x^{2m+n+1}\mathrm dx$$ Estableciendo (por simplicidad) $\kappa=2m+n+1$ y teniendo en cuenta que (para $n$ positivo) $\kappa>1$ $$\int_a^b e^{-\alpha x^2}x^{\kappa}\mathrm dx=\frac{1}{2} \alpha ^{\frac{1-\kappa }{2}} \left(\Gamma \left(\frac{\kappa +1}{2},a^2 \alpha \right)-\Gamma \left(\frac{\kappa +1}{2},b^2 \alpha \right)\right)$$ Entonces, la integral inicial (en caso de $n$ positivo, $a$ y $b>a$) se verá así: $$\int_a^b xe^{-\alpha x^2}J_n(\beta x)\mathrm dx\!=\\ \frac{1}{2\sqrt{\alpha}}\!\!\sum_{m=0}^\infty \!\frac{(-1)^m}{m! \, \Gamma(m+n+1)}\!{\left(\!\!\frac{\beta}{2 \sqrt{\alpha}}\!\right)\!}^{2m+n}\left(\!\Gamma \!\left(\!m\!+\!\frac{n}{2}\!+\!1,\left(a\sqrt{\alpha}\right)^2\!\right)\!\!-\!\Gamma \!\left(\!m+\!\frac{n}{2}\!+1,\left(b\sqrt{\alpha}\right)^2 \!\right)\!\right) $$ donde $\Gamma(\cdot,\cdot)$ - es la función Gamma incompleta.
Pero supongo que la serie obtenida no se puede simplificar. Seguramente se puede escribir de una manera más elegante (a través de funciones hipergeométricas, por ejemplo) con una notación más corta, pero eso no cambiará el resultado. :)