No es posible medir la energía potencial porque tiene una simetría gauge (global). Es como intentar medir la altura de una montaña: puede ser la altura sobre el nivel del mar, la altura relativa a la fosa marina más profunda, la altura relativa al centro de la tierra, etc. Cualquier medición sólo puede medir el cambio de energía potencial, y por supuesto un cambio puede ser positivo o negativo, es decir, la energía potencial puede aumentar o disminuir.
Esta es mi forma preferida de entender el defecto de masa: empezar con las partículas separadas de masa combinada $M$ a gran distancia. Cuando las partículas se juntan se aceleran debido a la fuerza de atracción entre ellas, por lo que en el momento en que todas las partículas se encuentran tienen una gran energía cinética, $T$ . Para conseguir que las partículas formen un estado ligado necesitamos eliminar esta energía cinética $T$ y eso significa sacar una masa de $m = T/c^2$ - de ahí el defecto de masa.
La energía cinética total $T$ es sólo el negativo del cambio de energía potencial $\Delta U$ a medida que las partículas son llevadas desde el infinito al estado ligado. Es indiferente el valor que se asigne a $U(\infty)$ porque lo único que importa es el cambio $\Delta U$ .
Respuesta al comentario de user52153:
Supongamos que empezamos con dos partículas que se atraen. Podrían ser un electrón y un protón, o dos nucleones, aunque por comodidad supondré que tienen la misma masa $m_0$ . Comienza con las partículas estacionarias y lo suficientemente separadas como para que cualquier interacción sea despreciable. Entonces la energía total es sólo:
$$ E_0 = 2m_0c^2 $$
Ahora dejemos que las partículas se muevan juntas bajo su atracción mutua. La fuerza de atracción las acelerará, por lo que un tiempo después tendrán una energía cinética $T$ . Como no hemos metido ni quitado energía, la energía total debe ser la misma, por lo que debe haber una energía potencial (negativa) $U$ tal que:
$$ 2m_0c^2 + T + U = 2m_0c^2 = E_0 $$
En otras palabras $T + U = 0$ o $T = -U$ y recuerda que $U$ es un número negativo.
En este punto no hay déficit de masa porque la energía total no cambia. Ahora el usuario52153 propone que utilicemos algún mecanismo para sacar la energía cinética del sistema. No importa exactamente cómo lo hagamos: utilizamos la energía cinética para realizar un trabajo $W$ externo a nuestro sistema de dos partículas y seguimos haciendo este trabajo hasta que $W = T$ por lo que en este punto las partículas han sido puestas en reposo. Porque hemos tomado el trabajo $W = T$ fuera del sistema la energía total es ahora:
$$ E_1 = 2m_0c^2 + U $$
El déficit de masa $\Delta m = (E_0 - E_1)/c^2$ Así que..:
$$ \Delta_m = \frac{E_0 - E_1}{c^2} = \frac{(2m_0c^2) - (2m_0c^2 + U)}{c^2} = -\frac{U}{c^2} $$
y porque $U$ es un número negativo que significa $\Delta m$ es un número positivo, es decir, la masa total del sistema ha disminuido.