Es un poco difícil decir si hay incoherencias o no. Depende de lo que consideres que es el Universo de Newton.
Por ejemplo, Newton inventó el cálculo para facilitar los cálculos. El cálculo implica infinitesimales. El infinito está lleno de dificultades lógicas que son difíciles de poner sobre una base matemáticamente consistente. No se hizo hasta alrededor de 1900. Así que tal vez usted podría encontrar inconsistencias en las matemáticas como lo hizo Newton. Pero es posible hacer bien esas matemáticas.
Las leyes de Newton no predicen el mundo tal como es. Es una aproximación. También lo son las mejores teorías que tenemos hoy en día. Así que entiendo que cuando la mecánica newtoniana predice que los átomos no son estables, no es a eso a lo que te refieres. Pero repito, Newton no predijo nada sobre los átomos. Las leyes del electromagnetismo vinieron después.
Así que las leyes newtonianas son incompletas. No hablan de E&M, fuerzas fuertes y débiles. Puedes añadirlas. Si lo haces ingenuamente, obtienes leyes que no describen el universo. Si arreglas las leyes, te alejas de la mecánica newtoniana.
Newton habló de partículas puntuales, fuerzas y aceleraciones, y gravedad. También de óptica y otros temas. Si pones en marcha el universo, la mecánica predecirá su futuro para siempre.
Así que se puede hablar de objetos que orbitan entre sí. Pero hay que inventar qué son esos objetos. No se puede inventar algo realista sin la relatividad, la mecánica cuántica y futuras teorías que aún no hemos elaborado.
Así que inventa algo irreal. Que puede tener inconsistencias, pero eso no es culpa de Newton. Por ejemplo, en las clases de física de los institutos se utilizan a menudo poleas sin masa y sin fricción. ¿Cuál es la aceleración de dicha polea dada una fuerza de $0$ ? Obtienes $a = F/m = 0/0$ .
Puedes inventarte átomos clásicos en los que los electrones entran en espiral en el núcleo. Eso tampoco es real. Si hay incoherencias lógicas con ello, son culpa tuya por inventarlo. Así que las partículas puntuales infinitamente densas no son problema de Newton.
Los gradientes de los campos son incoherentes en $r = 0$ para dichas partículas. Los campos fueron inventados por Faraday, pero se podría considerar que arreglar las matemáticas inherentes a Newton. Algo así como arreglar cualquier problema con el infinito. O podrías considerarlo un problema inherente a algo que la mecánica newtoniana puede describir.
Algunas de las matemáticas que mejoraron a Newton procedían de Leibniz. También inventó el cálculo, y no en términos de las fluxiones de Newton y demás. Otros inventores fueron LaGrange y Hamilton. Estos reordenaron las leyes de Newton en otras formas útiles.
Se perfeccionaron las matemáticas de la mecánica orbital. Cuando se descubrió Ceres, sólo se realizaron 3 observaciones antes de que desapareciera detrás del Sol. Saldría en unos meses, pero nadie sabía exactamente cuándo ni dónde. Estaba perdido. Gauss se tomó esos pocos meses para resolver la ecuación. Por el camino, inventó el análisis de errores y la distribución de Gauss. Ceres fue encontrado dentro de un grado de donde él predijo.
Todo esto iba más allá de lo que hizo Newton y era consecuencia de ello. No hemos encontrado ninguna inconsistencia lógica que se introdujo.
Un último punto. A finales del siglo XIX, la física era un problema resuelto, salvo algunos cabos sueltos. La relatividad y la mecánica cuántica llegaron por sorpresa y dieron al traste con todo ello. Del mismo modo, Russel y Whitehead habían puesto todas las matemáticas sobre una base sólida y consistente. El Teorema de la Incompletitud de Godel surgió de la nada y demostró que las matemáticas o son incoherentes (poco probable) o están incompletas (mucho más probable). Puede que en el futuro encontremos una incoherencia lógica en la mecánica newtoniana. Al igual que la corrección de las teorías físicas, la consistencia no puede demostrarse. Sólo se puede refutar.