¿Recibes el mismo error al copiar/pegar registros?
De memoria, si haces clic derecho en el cuadro indicador de fila gris, tu menú debería tener "Copiar registros seleccionados". Entonces puedes pegar directamente en una hoja de cálculo de Excel.
Una advertencia: si tus selecciones están en una tabla relacionada que resulta de una selección de características, es posible que tengas selecciones incorrectas (obtienes filas en tu tabla relacionada que en realidad no están relacionadas con ninguna de tus características seleccionadas y podrías estar perdiendo otras). Uno de mis usuarios descubrió este problema, que parece ser intermitente. Logré limitar el problema a ArcMap. El código de prueba de geodatabase + ArcObjects personalizado funciona correctamente. Nuestra solución alternativa: si nuestros usuarios necesitan los datos relacionados para algo importante y el número de registros es demasiado grande para que los inspeccionen visualmente, obtenemos los datos de la base de datos usando una consulta SQL. No hemos visto este problema con ArcGIS 10.
Actualización: Dijiste que lograste poner los datos en Excel. ¿Tus valores DMS están en un campo de texto? Es posible que puedas analizar la información que necesitas y redondear tu valor decimal. Basado en lo que veo en tu captura de pantalla, llegué a esta fórmula:
=IZQUIERDA(A1,8) & REDONDEAR(VALOR(MID(A1,9,6)),1) & MID(A1,15,2)
http://dl.dropbox.com/u/1156285/example.xls