Usar la fórmula de Pitágoras en posiciones dadas en latitud y longitud tiene tan poco sentido como, por ejemplo, calcular el área de un círculo usando la fórmula de un cuadrado: aunque produce un número, no hay razón para suponer que debería funcionar.
Aunque a pequeñas escalas cualquier superficie suave se ve como un plano, la precisión de la fórmula de Pitágoras depende de las coordenadas utilizadas. Cuando esas coordenadas son latitud y longitud en una esfera (o elipsoide), podemos esperar que
-
Las distancias a lo largo de las líneas de longitud serán razonablemente precisas.
-
Las distancias a lo largo del Ecuador serán razonablemente precisas.
-
Todas las demás distancias serán erróneas, en proporción aproximada a las diferencias en latitud y longitud.
El error depende del punto de inicio y final de los cálculos de distancia. Sin embargo, debido a que tanto la esfera como el elipsoide tienen una simetría circular alrededor del eje, el error depende solo de la diferencia de las longitudes, por lo que para estudiar este error podríamos considerar el punto de origen en el Meridiano Primario. Debido a que tanto la esfera como el elipsoide son simétricos bajo una reflexión norte-sur, solo necesitamos estudiar puntos de origen en el hemisferio sur. Para cualquier punto de este tipo podemos dibujar un mapa de contorno del error relativo, igual a [cálculo pitagórico] / [distancia real].
La fórmula de Pitágoras, usando el radio medio de la Tierra, es
Distancia pitagórica = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 metros
donde dx es la diferencia en longitudes y dy es la diferencia en latitudes, ambos en grados. (La diferencia en los valores de longitud se reduce módulo 360 para dar el valor correcto de dx al cruzar el antimeridiano; no hacerlo introduciría errores artificialmente grandes que no nos dirían nada sobre la fórmula de Pitágoras en sí misma.)
Los siguientes gráficos muestran el error relativo en comparación con la distancia correcta en el elipsoide WGS 84 para latitudes de -70 a 0 en incrementos de 10 grados. La coordenada horizontal es la diferencia en longitudes y la coordenada vertical es la latitud de destino. Las regiones claras tienen errores relativamente pequeños: las líneas de contorno están en 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, etc. (Las áreas blancas en las esquinas son lugares donde el error va más allá del rango de estos contornos.) Los puntos rojos muestran el punto de origen.
![Gráficos]()
Las bandas blancas verticales atestiguan la corrección de la expectativa (1): las distancias pitagóricas son precisas cuando hay una pequeña diferencia en longitudes. Las bandas blancas horizontales en bajas latitudes confirman la expectativa (2): cerca del Ecuador, las distancias horizontales son razonablemente precisas. De lo contrario, como lo demuestran las extensas regiones más oscuras, en todas las otras distancias la fórmula de Pitágoras es mala.
Podemos hacer estimaciones cuantitativas del error máximo alcanzado para pares de puntos cercanos (dentro, digamos, de unos pocos cientos de kilómetros entre sí). A escala, utilizando un valor apropiado para el radio, es verdadero a lo largo del meridiano pero a lo largo de un círculo de latitud yerra aproximadamente por la secante de la latitud. Por ejemplo, en una latitud de 40 grados la secante es 1.31, lo que implica que la fórmula de Pitágoras dará distancias aproximadamente un 31% demasiado grandes en la dirección este-oeste. (Esto es evidente en el gráfico de contorno en la esquina superior derecha, para un punto de origen en una latitud de -40 grados, donde la región inmediatamente este-oeste del punto rojo está entre las líneas de contorno 1.2 y 1.5). Las distancias cortas en todas las otras direcciones serán demasiado grandes en algún valor entre 0% y 31%; las distancias más largas pueden errar incluso más (como muestran los gráficos de contorno).