Deje $u_n = \sqrt{x_n}$, tenemos
$$u_n^2 = u_{n-1}^2 + u_{n-1} + 1 = \frac{u_{n-1}^3 - 1}{u_{n-1} - 1}
\implica u_{n-1}^3-1 = u_n^2(u_{n-1}-1)
$$
Esto lleva a
$$1 - \frac{1}{x_n^{3/2}}
= \frac{u_n^3-1}{u_n^3}
= \frac{u_{n+1}^2(u_n-1)}{u_n^3}
= \frac{u_{n+1}^2(u_n^2-1)}{u_n^3(u_n+1)}
= \frac{u_{n+1}^2(u_n^2-1)}{u_n^2(u_{n+1}^2-1)}\\
= \left.\frac{x_n - 1}{x_n}\right/\frac{x_{n+1}-1}{x_{n+1}}
$$
El producto en cuestión es una telescópica uno con parciales de los productos
$$\prod_{n=1}^p \left(1 - \frac{1}{x_n^{3/2}}\right)^{-1}
=\left.\frac{x_1}{x_1 - 1}\right/\frac{x_{p+1}}{x_{p+1}-1}$$
Desde $x_n = x_{n-1}+\sqrt{x_{n-1}} + 1 \ge x_{n-1} + 1$$x_0 = 1$, podemos mostrar a $x_n \ge n + 1$ por inducción. Esto significa $$\lim\limits_{p\to\infty} x_p = \infty \implies \lim\limits_{p\to\infty}\frac{x_{p+1}}{x_{p+1}-1} = 1$$
Como resultado,
$$\prod_{n=1}^\infty \left(1 - \frac{1}{x_n^{3/2}}\right)^{-1} = \frac{x_1}{x_1 - 1} = \frac{3}{3-1} = \frac32$$