Dado que el OP expresó algunas dudas sobre el procedimiento no la solución, aquí hay algunos elementos de tranquilidad. Deja que $a=10$, o, más generalmente, cualquier número real positivo.
En cualquier interpretación del ejercicio, el valor de $x$, si existe, debería corresponder al límite de una secuencia $(x_n)_{n\geqslant0}$ tal que $x_{n+1}=\sqrt{a+\sqrt{a}x_n}$, para cada $n\geqslant0$. Aquí hay un hecho:
Sea $(x_n)_{n\geqslant0}$ cualquier secuencia definida como se mencionó anteriormente. Para todo $x_0\geqslant-\sqrt{a}$, $x_n\to\ell_a$, donde $\ell_a=\frac12(\sqrt5+1)\sqrt{a}$.
Por lo tanto, sobre cualquier procedimiento razonable utilizado para definir $x$, primero, tendrá éxito, y segundo, resultará en $x=\ell_a$. Estamos felices. (Cuando $a=10$, $\ell_a=\frac{5+\sqrt5}{\sqrt{2}}$.)
Para probar el hecho mencionado anteriormente, considera la función $u_a$ definida por $u_a(t)=\sqrt{a+\sqrt{a}t}$, para cada $t\geqslant-\sqrt{a}$. Luego, $u_a$ es continua, creciente, tal que $t\lt u_a(t)\lt\ell_a$ para cada $-\sqrt{a}\leqslant t\lt\ell_a$, $u_a(\ell_a)=\ell_a$, y $\ell_a\lt u_a(t)\lt t$ para cada $t\gt\ell_a.
Como consecuencia, $x_n=\ell_a$ para cada $n\geqslant0$ si $x_0=\ell_a$, $(x_n)_{n\geqslant0}$ es creciente y acotada por arriba por $\ell_a$ y converge a $\ell_a$ para cada $-\sqrt{a}\leqslant x_0\lt\ell_a$, y $(x_n)_{n\geqslant0}$ es decreciente y acotada por debajo por $\ell_a$ y converge a $\ell_a$ para cada $x_0\gt\ell_a$. En todos los casos, $x_n\to\ell_a$.