Voy a mostrar a continuación que no es necesario utilizar polares o cualquier otro coordenadas otros que rectangulars para evaluar esta integral. El truco aquí es cambiar la escala de la integral en $I(x)$, de modo que es más fácil manipular más tarde. A saber
$$I(x) = x \int_1^{\infty} du\: e^{-x^2 u^2}$$
lo que significa que
$$I(x)^2 = x^2 \int_1^{\infty} du\: \int_1^{\infty} dv\: e^{-x^2 (u^2+v^2)}$$
Ahora podemos poner esto en el deseado integral y de invertir el orden de integración para obtener
$$\begin{align}\int_0^{\infty} dx \: e^{x^2} I(x)^2 = \int_1^{\infty} du\: \int_1^{\infty} dv\: \int_0^{\infty} dx \: x^2 e^{-x^2 (u^2+v^2-1)}\end{align}$$
El interior de la integral converge porque $u^2+v^2-1 \ge 0$. Evaluamos el interior de la integral y reducir la integral de una integral doble:
$$\int_0^{\infty} dx \: e^{x^2} I(x)^2 = \frac{\sqrt{\pi}}{4} \int_1^{\infty} du\: \int_1^{\infty} dv\: (u^2+v^2-1)^{-3/2}$$
La integral sobre la $v$ puede ser atacado por una sustitución trigonométrica: $v=\sqrt{u^2-1} \tan{t}$, $dv = \sqrt{u^2-1} \sec^2{t} dt$; el resultado es
$$\int_1^{\infty} dv\: (u^2+v^2-1)^{-3/2} = \left ( 1 - \frac{1}{u}\right ) \frac{1}{u^2-1} = \frac{1}{u (u+1)}$$
El problema ahora se reduce a la evaluación de
$$\int_1^{\infty} \frac{du}{u (u+1)} = \lim_{r \rightarrow \infty} \log{\left(\frac{r}{r+1}\right)} + \log{2} = \log{2}$$
Por lo tanto, la integral tiene el valor
$$\int_0^{\infty} dx \: e^{x^2} I(x)^2 = \frac{\sqrt{\pi}}{4} \log{2} $$
ANEXO
Este resultado puede comprobarse en contra de una fuente tal como Wolfram Alpha considerando
$$\int_0^{\infty} dx \: e^{x^2} \, \text{erfc}^2{x}$$
Resulta que $\text{erfc}{x} = (2\sqrt{\pi}) I(x)$. El resultado que uno espera de WA, a continuación, se $\log{2}/\sqrt{\pi}$, que es lo que WA produce.
