Aplicando la sustitución de $x=\sin\theta$ nos quedamos con
$$ I = \int_{0}^{\pi/2}\sqrt{1+\cos\theta}\frac{\cos\theta}{1+\sin^2\theta}\,d\theta = \sqrt{2}\int_{0}^{\pi/2}\frac{\cos\theta\cos\frac{\theta}{2}}{1+\sin^2\theta}\,d\theta$$
y aplicando la sustitución de $\theta=2\varphi$ obtenemos:
$$ I = 2 \sqrt{2}\int_{0}^{\pi/4}\frac{\cos(\varphi)(2\cos^2(\varphi)-1)}{1+4\sin^2(\varphi)\cos^2(\varphi)}\,d\varphi. $$
Mediante el establecimiento $\varphi=2\arctan t$, el original de la integral se convierte en la integral de una función racional en el intervalo de $J=\left(0,\tan\frac{\pi}{8}\right)=\left(0,\sqrt{2}-1\right)$, es decir,
$$ I = 4\sqrt{2}\int_J \frac{1-7 t^2+7 t^4-t^6}{1+20 t^2-26 t^4+20 t^6+t^8}\,dt. $$
Ahora la forma cerrada de $I$ sólo depende de la fracción parcial de la descomposición de la última integrando la función, es decir, en las raíces de $p(t)=1+20 t^2-26 t^4+20 t^6+t^8$. $p(t)$ es una capicúa polinomio, por lo que sus raíces están dadas por triple-anidada raíces cuadradas, pero la búsqueda de ellos es bastante fácil, ya que todo el problema se reduce a resolver una ecuación cuadrática. Voy a dejar de llenar los detalles que faltan.