Todavía puedes tener informados números de 10dp, pero cuenta el número de nodos en el archivo modificado, y debería ser mucho menor que el original.
La unidad de tolerancia es la que use la unidad de tus datos de mapa. 0.000001° mantendría las rutas de destino a no más de 0.000001° (un metro 10 cm aproximadamente) de su ubicación original. Sería demasiado pequeño si tus datos estuvieran en formato métrico UTM.
Aclaración: Mi estimación original estaba fuera por una orden de magnitud. Hubiera sido 0.00001° que estaría alrededor de un metro. Digo alrededor, ya que las fracciones de un grado varían según la ubicación, y no siempre son iguales. Por ejemplo, donde vivo, 0.000001° N↔S es aproximadamente 11 cm, pero 0.000001° E↔O es solo alrededor de 8 cm.
OGR solo simplifica en fracciones/múltiplos de la unidad de la capa. Si tu capa es EPSG 4326, tendrás que conformarte con fracciones de un grado, y quizás ligeras variaciones en la tolerancia sobre objetos grandes. Si deseas que la unidad se mantenga constante, convierte a una proyección como UTM, y entonces la unidad que uses será fracciones/múltiplos de metros/pies/pies de medición de EE. UU., etc.