Explicar por qué se produce una cancelación catastrófica

Question

Tras mi propia investigación, la siguiente imagen surge como el ejemplo más utilizado de cancelación catastrófica (de hecho, se utiliza en mi clase).

---

---

¿Alguien podría explicar por qué el gráfico tiene esa forma? (es decir, la línea dentada que fluctúa ampliamente a los lados, y la caída vertical cerca del centro)

Punto menor: ¿por qué la función demostradora se divide por $x^2$ ? ¿No es $1 - \cos(x)$ suficiente para causar una cancelación catastrófica?

Answer 1

Cuando $\cos(x)$ se calcula para una cantidad razonablemente pequeña de $x$ Se obtiene un número como 0,9999999994598649857etc; el estándar IEEE de doble precisión define una forma de redondear este número a aproximadamente 16 decimales. Así sale algo como 0,99999999999995. No he contado los dígitos, pero te haces una idea (y de todos modos, el redondeo se hace en base 2). Esto no parece catastrófico. Pero ahora reste 1 a ambos números, y verá que un enorme error relativo se ha comprometido a ese resultado. La división por $x^2$ le da más o menos este error relativo, porque cuando $x$ es pequeño, entonces $\cos(x) \approx 1 - \frac12 x^2$ (según Serie Taylor ). Así que cuando $x$ es muy pequeño, $\cos(x)$ se redondea a 1 (sin dígitos después de la coma), lo que explica la meseta en su gráfico.

Seguimiento de la petición de la OP: Para formalizar esto, dejemos $fl$ para "aritmética de punto flotante", sea la función que redondea un número real al número máquina más cercano ( $=$ un número representable como número IEEE de doble precisión, de los que sólo hay un número finito). Aunque tal vez no sea estrictamente preciso (puede haber optimización; puede haber cálculo de precisión extendida oculto; y el redondeo no siempre es al número más cercano de la máquina), la máquina calcula no $(1 - \cos(x)) / x^2$ pero $$fl( fl( 1 - {\color{red}{fl}}(\cos(x)) ) / fl(x^2) ) ,$$ Suponiendo que se comience con $x$ tal que $x = fl(x)$ . La cuestión se origina en la aplicación de la $fl$ que está marcado en rojo, porque $${\color{red}{fl}}(\cos(x)) = \cos(x) (1 + \delta)$$ donde $|\delta| \leq \text{eps} \approx 10^{-16}$ , y $\text{eps}$ es el menor número positivo tal que $$fl(1 + \text{eps}) \neq 1 .$$ Por lo tanto, $$1 - {\color{red}{fl}}(\cos(x)) = 1 - \cos(x) + \delta \cos(x) \approx \tfrac12 x^2 + \delta$$ cuando $x$ no es demasiado pequeño (de lo contrario ${\color{red}{fl}}(\cos(x)) = 1$ ). Cuando $x$ es de orden $\sqrt{\text{eps}} \approx 10^{-8}$ (como en su imagen), este resultado $\tfrac12 x^2$ está contaminado por un error absoluto de $\delta$ o un error relativo de $2 \delta / x^2$ . Así que el resultado final $(1 - \cos(x)) / x^2$ está contaminado por un error absoluto de $\delta / x^2 \approx 1$ cuando $x \approx \sqrt{\text{eps}}$ que, de nuevo, es lo que se ve en la imagen.

ps. Ha habido consecuencias infames de la aritmética de precisión finita.