Si $$f(x)=\sqrt{x+\sqrt{x+\sqrt{x+\sqrt{x+...}}}}$$ then assuming this function actually converges for a particular $x$ (de hecho, tal y como está, su dominio no pueden ser adecuadamente restringido para la convergencia, haciendo que su "función" no necesariamente bien definidos).
A continuación, $$f(x)=\sqrt{x+f(x)}$$
$$[f(x)]^2-f(x)=x$$
Implictly,
$$2f'(x)f(x)-f'(x)=1$$
$$f'(x)=\frac{1}{2f(x)-1}$$
Esta totalmente supone que su función es, de hecho, una función.
En realidad se puede solucionar esto. Por la fórmula cuadrática, tenemos
$$f(x)=\frac{1\pm\sqrt{1+4x}}{2}$$
Así que, claramente, al menos, $x\in[-\frac{1}{4},\infty)$. El dominio que has elegido, $(0,\infty)$, entonces se ve bien. Ahora para lidiar con ese $\pm$ signo. Su función, en su forma original es no negativo, por lo que sólo podemos tomar la negativa de la rama de
$$\frac{1-\sqrt{1+4x}}{2}\geq0$$
$$\sqrt{1+4x}\leq 1$$
$$1+4x\leq 1$$
$$x\leq 0$$
Lo cual es maravilloso, ya que por nuestra restricción en el dominio, no necesitamos considerar la negativa de la rama. Por lo tanto, la función está bien definida, y es:
$$f(x)=\frac{1+\sqrt{1+4x}}{2},x>0$$
Que es continua y derivable en su dominio.