Creo que hay un error tipográfico en la ecuación de $w$. He aquí cómo me gustaría enfocar este problema.
Primera nota de que podemos integrar por partes con suficientemente suave funciones para deducir la igualdad
\begin{equation}
\int_\Omega \text{curl}X \cdot Y = \int_\Omega X \cdot \text{curl} Y + \int_{\partial \Omega} n \times X \cdot Y.
\end{equation}
Ahora, si queremos ver el término en $\partial \Omega$ como la doble vinculación entre el$H^{1/2}(\partial\Omega)$$H^{-1/2}(\partial \Omega) = (H^{1/2}(\partial\Omega))^*$, luego tenemos
\begin{equation}
<n \times X, Y>= \int_\Omega \text{curl}X \cdot Y - \int_\Omega X \cdot \text{curl} Y.
\end{equation}
Se deriva de esto suponiendo que $Y$ ya estaba definido en $\Omega$, pero se puede extender a general $Y \in H^{1/2}(\partial \Omega)$ por el uso de una extensión del operador: para $Y \in H^{1/2}(\partial \Omega)$ dejamos $EY \in H^1(\Omega)$ ser tal que $EY = Y$ $\partial \Omega$ y
\begin{equation}
\lVert EY \rVert_{H^1(\Omega)} \lesssim \lVert Y\rVert_{H^{1/2}(\partial \Omega)}.
\end{equation}
Entonces
\begin{multline}
\lvert <n \times X, Y> \rvert= \left\lvert \int_\Omega \text{curl}X \cdot EY - \int_\Omega X \cdot \text{curl} EY \right\rvert \\
\lesssim \lVert EY \rVert_{H^1} \lVert X\rVert_{H_{curl}}
\lesssim \lVert Y \rVert_{H^{1/2}} \lVert X\rVert_{H_{curl}},
\end{multline}
donde hemos definido en la norma
\begin{equation}
\lVert X\rVert_{H_{curl}}^2 = \int_\Omega \lvert \text{curl}X\rvert^2 + \lvert X\rvert^2
\end{equation}
con el correspondiente espacio de Hilbert
\begin{equation}
H_{curl}(\Omega) = \{ u \in L^2 \vert \text{curl}u \in L^2 \}.
\end{equation}
Desde que esto funciona para cualquier $Y \in H^{1/2}(\partial \Omega)$ deducimos que, al tomar el supremum sobre todas las $Y$$\lVert Y \rVert_{H^{1/2}}\le 1$, que
\begin{equation}
\lVert n \times X \rVert_{H^{-1/2}(\partial \Omega)} \lesssim \lVert X \rVert_{H_{curl}}.
\end{equation}
Esto funciona para $X$ liso, pero por una densidad de argumento (aquí algunos el trabajo es necesario, pero es en la literatura -- e.g en uno de los libros de J.-L. Lions) la misma desigualdad se cumple para todos los $X \in H_{curl}$. Esto significa que habiendo $L^2$ control $X$ $\text{curl}X$ es suficiente para obtener el control en $n \times X$ sobre el límite.
Ahora fix $\varepsilon >0$ y definir un equivalente interior-producto en $H_{curl}$ dada por
\begin{equation}
(X,Y)_\varepsilon = \int_\Omega \varepsilon \text{curl}X \cdot \text{curl}Y + \frac{1}{\varepsilon} X \cdot Y.
\end{equation}
Escribir $\lVert X\rVert_{\varepsilon} = \sqrt{(X,X)_\varepsilon}$. Para cualquier $\Phi \in H^{1/2}(\partial \Omega)$ sabemos, a partir de la discusión anterior que la asignación de
\begin{equation}
H_{curl} \ni X \mapsto <n \times X, \Phi>
\end{equation}
es un delimitada lineal funcional. Por la representación de Riesz teorema existe una única $W_\Phi \in H_{curl}$, de modo que
\begin{equation}
<n \times X, \Phi> = (X,W_\Phi)_\varepsilon \;\forall X \in H_{curl}
\end{equation}
y
\begin{equation}
\lVert W_\Phi \rVert_{\varepsilon} = \sup_{\lVert X \rVert_{\varepsilon} \le 1} <n \times X, \Phi> \lesssim \lVert \Phi \rVert_{H^{1/2}(\partial \Omega)}.
\end{equation}
Entonces para cualquier $\Phi \in H^{1/2}(\partial \Omega)$ y cualquier $X \in H_{curl}$ hemos
\begin{multline}
\lVert n\times X\rVert_{H^{-1/2}} = \sup_{\lVert \Phi \rVert_{H^{1/2}} \le 1}
\lvert <n \times X, \Phi> \rvert = \sup_{\lVert \Phi \rVert_{H^{1/2}} \le 1} \lvert (X,W_\Phi)_\varepsilon \rvert \\
\le \sup_{\lVert \Phi \rVert_{H^{1/2}} \le 1} \lVert X \rVert_{\varepsilon} \lVert W_\Phi\rVert_\varepsilon \lesssim \lVert X \rVert_{\varepsilon} \sup_{\lVert \Phi \rVert_{H^{1/2}} \le 1} \lVert \Phi \rVert_{H^{1/2}(\partial \Omega)} = \lVert X \rVert_{\varepsilon}.
\end{multline}
Esto produce la estimación
\begin{equation}
\lVert n\times X\rVert_{H^{-1/2}} \le
\sqrt{\int_\Omega C\varepsilon \lvert \text{curl}X \rvert^2 + \frac{C}{\varepsilon} \lvert X \rvert^2} \le
\sqrt{C \varepsilon} \lVert \text{curl}X \rVert_{L^2} + \sqrt{\frac{C}{\varepsilon}} \lVert X \rVert_{L^2},
\end{equation}
que de inmediato se produce la deseada estimación a la configuración de $\epsilon = \sqrt{C \varepsilon}$.
Ahora, para terminar, ¿por qué he de decir que hay una errata en el $w$ ecuación? Así, la función de $W_\Phi$ satisface
\begin{equation}
<n \times X, \Phi> =
\int_\Omega \varepsilon \text{curl}X \cdot \text{curl}W_\Phi + \frac{1}{\varepsilon} X \cdot W_\Phi
\end{equation}
para todos los $X$. Este es un débil formulación de la PDE
\begin{equation}
\begin{cases}
\varepsilon \text{curl}^2 W_\Phi + \varepsilon^{-1}W_\Phi =0 &\text{in }\Omega\\
\varepsilon \text{curl}W_\Phi\times n = \Phi \times n &\text{on }\partial \Omega,
\end{casos}
\end{equation}
lo cual es bastante cercano a lo que estaba escrito en el papel.
Por cierto, un argumento similar se produce la estimación
\begin{equation}
\lVert n\cdot X\rVert_{H^{-1/2}} \le
\epsilon \lVert \text{div}X \rVert_{L^2} + \frac{C}{\epsilon} \lVert X \rVert_{L^2},
\end{equation}
para todos
\begin{equation}
X \in H_{div}(\Omega) = \{ u \in L^2 \vert \text{div} u \in L^2\}
\end{equation}
con la obvia interior-producto.
Un comentario acerca de la extensión de operador y Shuhao Cao respuesta:
Una extensión del operador es, sin duda en el uso de este método. Con el fin de resolver el PDE para $w$ el uso de Lax-Milgram, primero se debe transformar el problema con condiciones de contorno no homogéneas a uno con condiciones de contorno homogéneas (L-M obras en espacios lineales en lugar de afín). Para ello primero se debe de tomar $\phi \in H^{1/2}(\partial \Omega)$, y la extendemos a $E\phi \in X$ donde $X$ es el espacio de Hilbert en el que se quiere aplicar L-M, y $-n \times (n \times E\phi) = \phi$ cuando se remonta a $\partial \Omega$. A continuación, se utiliza la L-M para encontrar una $\tilde{w}$ (con homogéneo BCs $\tilde{w}=0$$\partial \Omega$) satisfactorio
$$
\int_{\Omega} \epsilon(\nabla \times \tilde{w})\cdot (\nabla \times v) + \frac{1}{\epsilon}\tilde{w} \cdot v = -\int_{\Omega} \epsilon(\nabla \times E\phi)\cdot (\nabla \times v) + \frac{1}{\epsilon} E\phi \cdot v
$$
para todos los $v$. A continuación, $w = \tilde{w} + E\phi$ es la solución deseada. Tenga en cuenta que no es suficiente tener cualquier extensión de $E\phi$, sino que uno debe tener una limitada extensión para la estimación de $\tilde{w}$ en términos de $\phi$ en lugar de $E\phi$. En el espacio de $X$ propuesto para el trabajo, la extensión de la realidad es más complicado de lo habitual, $E: H^{1/2}(\partial \Omega) \to H^1(\Omega)$ ya que también se requiere que el $\text{div}E\phi =0$.
