Una expresión más limpia
$$I=\int^π_0 \frac {\sin x}{\sqrt {x^3+x+1}} dx = \sum_0^∞ A_k \sum_0^k (-1)^r {}^kP_{2r} π^{k-2r}$$ Dónde, $$(3+2k)A_k + (5+2k)A_{2+k} + 2(3+k)A_{3+k} = 0,$$ $$A_0=1, A_1=\frac {-1}{2}, A_2=\frac {3}{8}$$
Un enfoque codicioso
$$I=\int^π_0 \frac {\sin x}{\sqrt {x^3+x+1}} dx = 0.8750439062939084$$ Utilizando el algoritmo de la fracción egipcia codiciosa, $$x_{k+1} = x_k - \frac {1}{\lceil \frac {1}{x_k} \rceil}$$ donde, $x_0 = I$ tengo una expansión, $$I = \frac {1}{2} + \frac {1}{3} + \frac {1}{2^3.3} +\frac {1}{2^3.3.13.73}+\frac {1}{2^2.13.113.397547} +……$$ No he podido ir más lejos, por mi limitada capacidad de cálculo (que es mi portátil), sin embargo sí veo un patrón: los factores primos en los denominadores $(2,3,13,73,113,…)$ pertenecen al conjunto de primos dado por, $$a(n)= \text {Min} \left(x; π[x]-π\left[\frac {x}{2}\right]=n\right)$$ Lo tengo en OEIS( https://oeis.org/A080359 ). Sin embargo, necesita mucha más información.
Respuesta original
Una forma cerrada sería extremadamente difícil de conseguir. Esta parece ser una función nueva. Sustituyendo $t$ para el denominador, obtenemos una hermosa forma de la integral, aunque potencialmente latente en el contexto actual. $$I = 2\int \frac {\cosh J(t)}{\cosh 3J(t)} \sin \left(-2 \sqrt {\frac {1}{3}} \sinh J(t)\right) dt$$ donde, $$J(t):=\frac {1}{3} \sinh^{-1} \left[\frac {3\sqrt 3}{2} (1-t^2)\right]$$ Por lo tanto, estoy dando una solución en forma de serie. Considera, $$F(x):=\int \frac {\sin x}{\sqrt {1+x(1+x^2)}} dx\tag{1}$$ Ahora, para $x<1$ , $$[1+x(1+x^2)]^{-\frac {1}{2}} = -\sum_{k=0}^∞ C^{k-\frac {1}{2}}_{-\frac {1}{2}}x^k(1+x^2)^k \tag{2}$$ Enchufando $(2)$ en $(1)$ nos encontramos con que, $$F(x) = -\sum_{k=0}^∞ C^{k-\frac {1}{2}}_{-\frac {1}{2}} G(k,x) \tag{3},$$ donde , $$G(k,x):= \int x^k \sin x (1+x^2)^k dx \tag{4}$$ Pero, $$(1+x^2)^k= \sum_{r=0}^k C^k_r x^{2r} \tag{5}$$ Enchufando $(5)$ en $(4)$ nos encontramos con que, $$G(k,x) = \sum_{r=0}^k C^k_r H(r,k,x) \tag{6},$$ donde, $$H(r,k,x) := \int x^{k+2r} \sin x dx$$ $$= - \frac {\Gamma (k+2r+1, ix) + (-1)^{k+2r}\Gamma (k+2r+1, -ix)}{2(-1)^{\frac {5}{2} (k+2r)}} \tag{7}$$ Por lo tanto, $$F(x)=\sum_{k=0}^∞ C^{k-\frac {1}{2}}_{-\frac {1}{2}} \sum_{r=0}^k C^k_r \frac {\Gamma (k+2r+1, ix) + (-1)^{k+2r}\Gamma (k+2r+1, -ix)}{2(-1)^{\frac {5}{2} (k+2r)}}\tag{8}$$ En la misma línea existe una integral para el caso $x>1$ la única diferencia está en la expansión binomial para el denominador de la integral original. Llamémosla $F'(x)$ . Entonces, $$\int_0^π \frac {\sin x}{\sqrt {1+x(1+x^2)}} dx = [F(1) -F(0)] +[F'(π) - F'(1)]$$ Esta solución está en términos de funciones gamma superiores incompletas con argumentos complejos. La notación $C^n_r$ representa los coeficientes combinatorios.
Nota-1
Otra posibilidad es utilizar funciones hipergeométricas para expresar el resultado final, $$F(x)=-\sum_{k=0}^∞ C^{k-\frac {1}{2}}_{-\frac {1}{2}} \sum_{r=0}^k C^k_r \frac {x^{k+2r+2}}{k+2r+2} {}_1\text {F}_2 \left(\frac {k+2r+4}{2},\frac {3}{2} ; \frac {k+2r+2}{2} ; -\frac {x^2}{4}\right)$$
Nota-2
Todavía hay esperanza de una forma cerrada de la integral indefinida en términos de la integral de Fresnel $C(z)$ Consideremos una integral relacionada: $$\int \frac {\sin x}{\sqrt {x^3}} dx = \sqrt {8π} \text {C} \left(\sqrt {\frac {2x}{π}}\right) - \frac {2\sin x}{\sqrt x} + c$$ El integrando es casi el mismo, excepto por el término lineal extra $x+1$ bajo la raíz cuadrada.