Una buena pregunta que toca los conceptos físicos profundos. Intentaré dar una respuesta en varios pasos.
- Antes de responder tu pregunta, permíteme responder otra: ¿qué es una partícula libre? Una respuesta simple (pero completa) es que una «partícula» es una excitación elemental de larga duración de un sistema (un campo cuántico). «De larga duración» significa que vive el tiempo suficiente para ser observable, es decir, interactúa débilmente con otras excitaciones, «elemental» significa que el espectro total del sistema es (aproximadamente) diferentes sumas de energías de tales excitaciones.
Has notado correctamente que la energía del estado ligado es menor que las energías de sus componentes "libres". Tomemos, por ejemplo, un estado ligado de positrón-muón (un átomo muónico). Como fue correctamente señalado por John Rennie, puedes tomar estos dos fermiones en un espectro continuo y pueden formar el átomo muónico con cierta cantidad de radiación electromagnética.
- La interacción de excitaciones elementales (partículas) puede ser caracterizada por una constante generalmente llamada «constante de acoplamiento». Como mencioné antes, para una excitación de larga duración la interacción debe ser débil, por lo tanto, la constante de acoplamiento debe ser pequeña.
Nuestro muón y positrón pueden formar un estado ligado debido a la interacción con el campo electromagnético. La constante de acoplamiento correspondiente suele ser denominada la constante de estructura fina y se denota como $\alpha$. Si la constante de acoplamiento es lo suficientemente pequeña, entonces la energía de unión es proporcional a alguna potencia de la constante de acoplamiento, por ejemplo, la energía de unión del átomo muónico es aproximadamente $-m_{0}c^2(4\pi\alpha)^2/(2\,n^2)$, donde $m_{0}=m_{\mu}m_{e}/(m_{\mu}+m_{e})$ es la masa reducida de muón-positronio. Por simplicidad, asumamos que $m_{\mu}=m_{e}=m$.
Por lo tanto, tu pregunta puede reformularse de la siguiente manera: ¿qué sucede si aumentamos (de alguna manera) la constante de acoplamiento $\alpha$ de manera que la energía de unión sea comparable o mayor que $2m$?
- Aquí me gustaría señalar que puedes producir átomos muónicos a partir del vacío. Por ejemplo, un conductor acelerado (o cualquier medio) produce fotones, por ejemplo, a través del efecto Casimir dinámico. Los fotones pueden interactuar y producir pares electrón-positrón, pares muón-antimuón y (si hay suficiente energía) pares de átomos muónicos y antimuónicos. La cantidad que caracteriza la intensidad de dicha producción se denomina generalmente «sección transversal de producción».
Si comienzas a aumentar la constante de acoplamiento, entonces la sección transversal de producción también crece. Dado que los átomos muónicos se vuelven cada vez más ligeros, el umbral de energía para la producción de átomos muónicos disminuye. Por lo tanto, tu sistema (universo, lo que sea) se vuelve muy excitable, cualquier proceso conduce a la producción de un enorme número de excitaciones muy ligeras. Y si continúas aumentando la constante de acoplamiento de manera que la energía de unión sea mayor que $2m$, entonces el estado base (vacío) de tu sistema se vuelve inestable, por ejemplo, todos los fotones en tu universo decaen inmediatamente en fermiones, estos fermiones forman estados ligados (átomos), estos estados ligados llenan todo el volumen del universo y forman un condensado de Bose-Einstein. Tales escenarios se refieren como fenómenos críticos o transiciones de fase. La característica principal de estas transiciones es que conducen a una transformación completa del espectro. Después de la transición de un punto crítico, encontrarás un nuevo estado base (vacío) y nuevas excitaciones elementales (partículas) con nuevas masas y nuevas constantes de acoplamiento.