Estás estudiando un caso especial de la iteración de punto fijo $x_{n+1}=g(x_n)$ . Si su caso $g : \mathbb{R} \rightarrow \mathbb{R}$ viene dado por \begin{equation} g(x) = \frac{x^3+6x}{3x^2+2}. \end{equation} Está calculando la derivada de $g$ en un intento de determinar si la restricción de $g$ a algún intervalo cerrado $I$ es una contracción, que asigna $I$ en sí mismo. Suele ser una estrategia excelente, pero cuando los derivados son complicados, hay que explorar alternativas.
De su ecuación se deduce que si la iteración converge a $X$ entonces $X \in \{-\sqrt{2},0,\sqrt{2}\}$ . Desde $g(x) > 0$ para todos $x>0$ y $x_0 = 1 >0$ vemos que $X = \sqrt{2}$ es la única opción viable. Ahora nos encontramos con que \begin{equation} x_{n+1} - \sqrt{2} = \frac{x_n^3+6x_n-\sqrt{2}(3x_n^2+2)}{3x_n^2 +2}=\frac{x_n^3+3(\sqrt{2})^2x_n^2-3\sqrt{2}x_n^2-(\sqrt{2})^3}{3x_n^2+2}=\frac{(x_n-\sqrt{2})^3}{3x_n^2+2}. \end{equation} Ahora bien, si $e_n = \left|x_n - \sqrt{2} \right|$ denota el valor absoluto del error en el $n$ etapa, entonces \begin{equation} e_{n+1} = \frac{e_n^3}{3x_n^2 +2} \leq \frac{1}{2}e_n^3. \end{equation} Desde $e_0 = \left|\sqrt{2}-x_0\right|=\sqrt{2}-1 < 1$ es evidente que $e_n \rightarrow 0$ o, de forma equivalente, que $x_n \rightarrow \sqrt{2}$ . En cuanto al orden exacto del método, observamos que \begin{equation} \frac{e_{n+1} }{e_n^3} = \frac{1}{3x_n^2 + 2} \rightarrow \frac{1}{5} \not = 0, \quad n \rightarrow \infty, \quad n \in \mathbb{N}. \end{equation} Por definición, esto demuestra que el orden es $p=3$ .