¿Por qué Calculate Geometry da un número incorrecto de decimales para la longitud?

Question

Usuario intermedio de ArcMap. Estoy intentando calcular la geometría de un shapefile para poder añadir columnas de lat/long a mi tabla de atributos. Mientras que no tengo problemas para calcular la latitud, la longitud sigue saliendo un decimal fuera.

Sé que la longitud exacta de este shapefile debería ser -74,067, -74,068, etc. No estoy seguro de si el signo negativo está arruinando los dígitos significativos. Busqué en StackExchnage y nadie parece tener este problema.

Como referencia, al calcular la Latitud, para el "Tipo", he utilizado "float" con precisión = 6 y escala = 5. Esto funcionó bien para la Latitud, pero todavía me da el resultado incorrecto para la Longitud.

También como referencia: Sistema de coordenadas proyectadas: PCS_CarMAGBOG Proyección: Transverse_Mercator Falso_Este: 92334.87900000 False_Northing: 109320.96500000 Meridiano_central: -74.14659167 Factor_de_escala: 1.00000000 Latitud_de_origen: 4.68048611 Unidad lineal: Metro

¿Alguien se ha enfrentado a este problema antes, y si es así, cómo lo ha resuelto? ¿El problema está en la geometría de cálculo o en la propia proyección?

Answer 1

Debe utilizar un tipo de campo "doble" en lugar de "flotante", según las recomendaciones de Esri. "Cuando cree campos float y double y especifique una precisión y una escala, si su precisión es superior a 6, utilice un double" ( http://resources.arcgis.com/en/help/main/10.1/index.html#//001700000047000000 ).

Si cambia su Precisión y Escala a 8 y 5, respectivamente, entonces 'Calcular Geometría' en ArcMap devolverá las coordenadas correctas. Los valores de 7 y 5 realmente redondeará las longitudes a los enteros. Creo que el signo negativo se trata cuenta hacia el límite de precisión.

He descargado su proyección aquí ( http://www.spatialreference.org/ref/sr-org/6873/ ) y de hecho lo he probado en un conjunto de puntos que he creado con el mismo long/lat de tus datos. Sólo pude obtener cálculos correctos de longitud para trabajar usando la precisión 8 y la escala 5.