La precisión de una calculadora es influenciado en gran medida por el número de cifras significativas utilizadas para el cálculo. Es normalmente mayor que el número de dígitos que se muestran.
Por ejemplo, si usted calcular $\pi$ y muestra $3.141592654$, el actual número almacenado en su memoria RAM podría ser $3.14159265\color{blue}{359}$, donde las cifras en $\color{blue}{\text{blue}}$ denota la extra a cifras que no se muestran.
Esa es la razón por la que usted no consigue $1$ a partir de $1349303770/(2^{32} \pi)$: $1349303770$ fue la muestra número que se lee de resultado anterior, mientras que la calculadora se utiliza un poco más de los personajes más importantes para calcular $2^{32}\pi$.
Hay una forma indirecta para contar el total no. de cifras significativas utilizadas para el cálculo:
- Calcular $\sqrt{2}$
- Restar $1$ a partir del resultado anterior (¿ no compute $\sqrt{2} - 1$ directamente: debe asegurarse de utilizar el resultado anterior)
- Calcular $1/\text{Previous result}$. Esto puede ser difícil debido a que el método para hacer esto depende del tipo de calculadora. De nuevo, no escriba la respuesta anterior manualmente.
- Restar $2$ de la respuesta anterior
- Repita los Pasos 3 y 4, hasta que se note una discrepancia entre la parte fraccionaria del resultado del Paso 3, y que desde el Paso 1
- El número aproximado de extra de los personajes más importantes sería el total del número de sustracciones se han hecho antes de que usted note una discrepancia
- El número total de cifras significativas es entonces
$$N = \text{no. of digits displayed} + \text{no. of extra significant figures}$$
Una vez que esto se sabe, puede ordenar de predecir el resultado de cálculo mediante el uso de un más preciso, de la calculadora, y redondear el resultado a $N$ figuras. Usted puede ser que necesite una calculadora avanzada para esto, tales como PARI/GP.
Usando mi calculadora científica, estos son los resultados:
- $1.414213562$ (Paso 1)
- $0.414213562$ (Paso 2)
- $2.414213562$ (Paso 3)
- $0.414213562$ (Paso 4)
- $2.414213562$ (Paso 3)
- $0.414213562$ (Paso 4)
- $2.41421356\color{red}{3}$ (Paso 3)
- $0.41421356\color{red}{3}$ (Paso 4)
- $2.4142135\color{red}{59}$ (Paso 3)
Por lo tanto el número aproximado de extra cifras significativas serían $3$ o $4$.
¿Por qué este método funciona: cada resta causas catastróficas de cancelación.