Ya ha habido varias respuestas pero como intento de síntesis :
La gravedad es atractiva y, en ausencia de una fuerza contraria repulsiva, provoca el colapso de un objeto masivo. El orden de magnitud de la presión necesaria para resistir el colapso gravitatorio es aproximadamente del orden de $GM^2/R^4$ donde $M$ es la masa del objeto y $R$ su radio.
En el caso de un planeta como la Tierra, las fuerzas de repulsión son de naturaleza electrostática (sus electrones tienden a repelerse). En el caso de la Tierra, $GM^2/R^4 \sim $ 1000 GPa.
Si la masa es mucho mayor, la gravedad es demasiado fuerte y las fuerzas electrostáticas demasiado débiles para contrarrestarla. Cuando la densidad es lo suficientemente alta, pueden producirse reacciones nucleares que emiten una gran cantidad de radiación. En este caso, el objeto es una estrella y se mantiene por presión térmica. En el caso del Sol, $GM_{\odot}^2/R_{\odot}^4 \sim 10^{6} $ GPa, pero esta presión puede variar mucho de una estrella a otra.
Al cabo de un tiempo, las reacciones nucleares ya no liberan suficiente energía, por ejemplo cuando se empieza a producir hierro (el hierro es el núcleo más estable, y las reacciones que lo transforman serían endotérmicas). En este caso, el objeto puede colapsar a una forma de materia de mayor densidad, esta vez estabilizada gracias al principio de exclusión de Pauli.
Este principio establece que dos fermiones no pueden ocupar el mismo estado cuántico, lo que da lugar a una fuerza de repulsión muy fuerte entre ellos. En las enanas blancas, estos fermiones son electrones. En las estrellas de neutrones, la mayoría son neutrones. La fuerza fuerte también contribuye a resistir la gravedad en las estrellas de neutrones. En estos casos, la presión puede ser extrema. La masa de una estrella de neutrones suele ser $\gtrsim 1.2 M_{\odot}$ y su radio del orden de 10 km. El resultado es $P \sim 10^{25}$ GPa.
3 votos
Relacionado: physics.stackexchange.com/q/143166/2451 , physics.stackexchange.com/q/141865/2451y enlaces en el mismo.
19 votos
¿Porque los planetas no son tan masivos?
0 votos
He borrado algunos comentarios, incluidos algunos (muy agradables) que habrían sido más apropiados como respuestas.
2 votos
La misma razón por la que un globo de agua no mantiene su forma, pero una pelota de baloncesto sí, por efecto de la gravedad.