Yo) Vamos a trabajar en las unidades en donde $G=1=\rho$.
En esta respuesta, además vamos a suponer que el enorme objeto con forma de estrella. A continuación, podemos utilizar coordenadas esféricas $(r,\theta,\varphi)$. El perfil de la superficie se da como
$$\etiqueta{1} {\bf r}~=~r{\bf n}~=~f({\bf n}){\bf n}, \qquad
r~=~f({\bf n})~=~\sum_{\ell m} c_{\ell m} Y_{\ell m}({\bf n})~\geq~0 ,\qquad
c_{\ell m}~=~\int_{S^2}\!d^2n ~Y^{\ast}_{\ell m}({\bf n})f({\bf n}),$$
donde ${\bf n}\in S^2$ es un vector unitario. En eq. (1) hemos utilizado la DumpsterDoofus la idea de ampliar en armónicos esféricos. El volumen
$$\tag{2} V[f]~:=~ \int_V \! d^3r ~=~\frac{1}{3}\int_{S^2}\!d^2n ~ f({\bf n})^3 .$$
es un funcional de la superficie del perfil de $f({\bf n})$.
$$\tag{3} \delta V ~=~\int_{S^2}\!d^2n ~ f({\bf n})^2\delta f({\bf n}),\qquad \delta^2 V ~=~2\int_{S^2}\!d^2n ~ f({\bf n})\delta f({\bf n})^2.$$
El volumen se mantiene fija mediante una restricción
$$\tag{4} V[f]~=~V_0.$$
Potencial:
$$\etiqueta{5} -\Phi({\bf r})~:=~\int_{V} \! \frac{d^3r^{\prime}}{|{\bf r}-{\bf r}^{\prime}|}
~=~\int_{S^2}\!d^2n^{\prime}\int_0^{f({\bf n}^{\prime})}\!
\frac{r^{\prime 2}dr^{\prime}}{|{\bf r}-r^{\prime}{\bf n}^{\prime}|} .$$
$$\etiqueta{6} -\delta \Phi({\bf r})
~=~\int_{S^2}\!d^2n^{\prime} \frac{f({\bf n}^{\prime})^2\delta f({\bf n}^{\prime})}{|{\bf r}-f({\bf n}^{\prime}){\bf n}^{\prime}|}.$$
Campo:
$$\etiqueta{7} -{\bf g}({\bf r})~:=~ \nabla \Phi({\bf r})
~=~\int_{V} \!d^3r^{\prime} \frac{{\bf r}-{\bf r}^{\prime}}{|{\bf r}-{\bf r}^{\prime}|^3} .$$
Radial de campo:
$$ -g_r({\bf r})~=~\frac{\partial\Phi({\bf r})}{\partial r}
~=~{\bf n}\cdot \nabla \Phi({\bf r})
~=~\int_{V} \!d^3r^{\prime} \frac{r-{\bf n}\cdot{\bf r}^{\prime}}{|{\bf r}-{\bf r}^{\prime}|^3}$$
$$~=~\int_{S^2}\!d^2n^{\prime}\int_0^{f({\bf n}^{\prime})}\!r^{\prime 2}dr^{\prime}
\frac{r-{\bf n}\cdot{\bf n}^{\prime}r^{\prime}}{|{\bf r}-r^{\prime}{\bf n}^{\prime}|^3}.\la etiqueta{8}$$
II) la energía Potencial:
$$ U[f]~:=~ -\iint_{V\times V} \! \frac{d^3r~ d^3r^{\prime}}{2|{\bf r}-{\bf r}^{\prime}|}
~=~ \frac{1}{2}\int_V \! d^3r ~\Phi({\bf r}) $$
$$~=~ -\int_{S^2}\!d^2n\int_{S^2}\!d^2n^{\prime} \int_0^{f({\bf n})}\int_0^{f({\bf n}^{\prime})}
\frac{r^2dr~ r^{\prime 2}dr^{\prime}}{2|r{\bf n}-r^{\prime}{\bf n}^{\prime}|}.\la etiqueta{9}$$
$$\etiqueta{10} \delta U
~=~\int_{S^2}\!d^2n ~ f({\bf n})^2\delta f({\bf n})~\Phi(f({\bf n}){\bf n}).$$
$$ \delta^2 U~=~-\int_{S^2}\!d^2n\int_{S^2}\!d^2n^{\prime}~
\frac{f({\bf n})^2\delta f({\bf n})~ f({\bf n}^{\prime})^2\delta f({\bf n}^{\prime})}{|f({\bf n}){\bf n}-f({\bf n}^{\prime}){\bf n}^{\prime}|}$$
$$
-\int_{S^2}\!d^2n~ f({\bf n})^2 ~\delta f({\bf n})^2g_r(f({\bf n}){\bf n})
+2\int_{S^2}\!d^2n~f({\bf n})\delta f({\bf n})^2
\Phi(f({\bf n}){\bf n}).\la etiqueta{11}$$
III) Para el tratamiento de la restricción (4) el uso de Lagrange multiplier método. Debemos minimizar el funcional
$$\tag{12} E[f]~:=~U[f] +\lambda (V_0-V[f]).$$
La primera variación es
$$\etiqueta{13} \delta E
~=~\int_{S^2}\!d^2n ~ f({\bf n})^2\delta f({\bf n})
\{\Phi(f({\bf n}){\bf n})-\lambda\}.$$
Llegamos a la conclusión de que
La superficie potencial de $\Phi(f({\bf n}){\bf n})=\lambda<0$ de una forma estacionaria $f$ es una constante, es decir, independiente de la unidad de vectores ${\bf n}$.
La segunda variación es
$$ \delta^2 E~=~-\int_{S^2}\!d^2n\int_{S^2}\!d^2n^{\prime}~
\frac{f({\bf n})^2\delta f({\bf n})~ f({\bf n}^{\prime})^2\delta f({\bf n}^{\prime})}{|f({\bf n}){\bf n}-f({\bf n}^{\prime}){\bf n}^{\prime}|}$$
$$
-\int_{S^2}\!d^2n~ f({\bf n})^2 \delta f({\bf n})^2g_r(f({\bf n}){\bf n})
+2\int_{S^2}\!d^2n~f({\bf n})\delta f({\bf n})^2
\underbrace{\{\Phi(f({\bf n}){\bf n})-\lambda\}}_{=0}.\la etiqueta{14}$$
Por razones de sistemática, la segunda variaciones (14) debe ser consistente con la restricción (4) a la primera orden.
IV) finalmente Hemos de considerar una bola de $f({\bf n})=R$. Entonces tenemos
$$V~=~\frac{4\pi}{3}R^3, \qquad {\bf g}({\bf r})~=~-\frac{4\pi}{3}{\bf r}, \qquad \Phi({\bf r})~=~2\pi\left(\frac{r^2}{3}-R^2\right), \qquad \Phi(R)~=~-\frac{4\pi}{3}R^2, \qquad U~=~-\frac{16\pi^2}{15}R^5.\tag{15}$$
Queremos mostrar que la pelota es un estable de forma estacionaria. Tenemos que mostrar que la segunda variación (14) es semipositive definitiva.
Eq. (3) se simplifica a
$$\etiqueta{16} \frac{\delta V}{R^3} ~=~\int_{S^2}\!d^2n ~\delta f({\bf n})
~=~\sqrt{4\pi}\delta c_{00},$$
$$\etiqueta{17}\frac{\delta^2 V}{2R^3}~=~\int_{S^2}\!d^2n ~|\delta f({\bf n})|^2
~=~\sum_{\ell m}|\delta c_{\ell m}|^2.$$
Desde la restricción (4) debe ser mantenida a la primera (pero no necesariamente de segundo orden, debemos exigir que la zeromode se desvanece
$$\tag{18}\delta c_{00}~=~0.$$
La segunda variación (14) se simplifica a (ver, por ejemplo, Ref. 1)
$$ \frac{\delta^2 E}{R^3}
~=~-\int_{S^2}\!d^2n
\int_{S^2}\!d^2n^{\prime}~\frac{\delta f({\bf n})~\delta f({\bf n}^{\prime})^{\ast}}{|{\bf n}-{\bf n}^{\prime}|}
-\frac{g_r(R)}{R}\int_{S^2}\!d^2n~\delta f({\bf n})^2 $$
$$~=~-\int_{S^2}\!d^2n\int_{S^2}\!d^2n^{\prime}~\delta f({\bf n})~\delta f({\bf n}^{\prime})^{\ast}\sum_{\ell m} \frac{4\pi}{2\ell+1}Y^{\ast}_{\ell m}({\bf n})Y_{\ell m}({\bf n}^{\prime})$$
$$+\frac{4\pi}{3}\int_{S^2}\!d^2n~|\delta f({\bf n})|^2 $$
$$~=~4\pi\sum_{\ell m}\left(\frac{1}{3}-\frac{1}{2\ell+1}\right)|\delta c_{\ell m}|^2 ~\geq~0,\tag{19}$$
lo cual no es negativo, ya que el zeromode (18) está ausente. Por lo que la pelota es un estable de forma estacionaria.
Referencias:
- J. D. Jackson, la Electrodinámica Clásica; el capítulo 3.