Asumiendo que usted sabe que una monótona, delimitada secuencia converge, desea hacer dos cosas. En primer lugar, demostrar que $\langle x_n:n\in\mathbb{Z}^+\rangle$ es monótona y acotada, y luego mostrar que su límite es el positivo de la raíz de $x^2-x-c=0$.
Si $c=x_1=1$, $x_2=\sqrt2>x_1$, mientras que si $c=1$ y $x_1=2$, $x_2=\sqrt3<x_1$, así que si la sucesión es monótona, la dirección en la que monotónica debe depender de $c$ y $x_1$. Un buen primer paso sería tratar de averiguar cómo esta dependencia funciona.
El positivo de la raíz de la ecuación cuadrática es de $\frac12(1+\sqrt{1+4c})$, que me va a denotar por $r$. Si $x_n\r$, como se afirma, y lo hace monótona, debe ser el caso de que la secuencia se incrementa monótonamente si $x_1<r$ y disminuye monótonamente si $x_1>r$. En los ejemplos mencionados en el último párrafo, $r=\frac12(1+\sqrt5)\aprox 1.618$, por lo que se comportan como se predijo.
Esto sugiere que el primer paso debería ser para mostrar que, si $x_n<r$, entonces $x_n<x_{n+1}<r$, mientras que si $x_n>r$, $x_n>x_{n+1}>r$; eso sería suficiente para demostrar que $\langle x_n:n\in\mathbb{Z}^+\rangle$ es tanto monótona y acotada y, por tanto, que tiene un límite.
Suponga que $0\le x_n<r$; usted puede comprobar fácilmente que $x_n^2-x_n-c<0$, es decir, que $x_n^2<x_n+c$. Por otro lado, $x_{n+1}^2=c+x_n$, entonces $x_{n+1}^2>x_n^2$, y por lo tanto $x_{n+1}>x_n$. Es posible que $x_{n+1}\ge r$? Que requeriría que $x_{n+1}^2-x_{n+1}-c\ge 0$ (por qué?) y de ahí que $$x_{n+1}^2\ge x_{n+1}+c>x_n+c=x_{n+1}^2\;,$$ lo cual es claramente imposible. Por lo tanto, si $0\le x_n<r$, debemos tener $x_n<x_{n+1}<r$, como se desee. Os dejo el caso $x_n>r$ a.
Una vez hecho esto, usted todavía tiene que demostrar que el límite de la secuencia realmente es de $r$. Deje que $f(x)=\sqrt{c+x}$; claro que $f$ es continua, por lo que si la secuencia converge a $L$ tenemos $$L=\lim_{n\to\infty}x_n=\lim_{n\to\infty}x_{n+1}=\lim_{n\to\infty}f(x_n)=f(L)\;,$$ y a partir de ahí es trivial comprobar que $L=r$.
Añadido: tenga en cuenta que aunque el problema nos dio $x_1>0$, esto no es realmente necesario: todo lo que se necesita es que $x_1\ge -c$, de modo que $x_2$ se define, desde $x_2=\sqrt{c+x_1}\ge 0$ automáticamente.