OP es principalmente perfecto hasta después de algunos partes.
Para el curl operador tenemos una similar de integración por partes de la fórmula del teorema de la divergencia:
$$
\int_{\Omega}\nabla \cdot (u\nabla v) = \int_{\Omega}(u\Delta v + \nabla u\cdot \nabla v) = \int_{\partial \Omega} u\nabla v\cdot \nu \,dS,
$$
donde $\nu$ es el exterior de la unidad normal a la frontera. El curl de integración por partes fórmula es:
$$
\int_{\Omega}\nabla \cdot (\phi\times \psi) = \int_{\Omega}(\psi\cdot\nabla \times \phi \phi\cdot \nabla\times \psi) = \int_{\partial \Omega} \phi\times \psi\cdot \nu \,dS = \int_{\partial \Omega} \nu\times \phi\cdot \psi \,dS.\la etiqueta{1}
$$
Dicen que ahora quieres minimizar (aquí utilizo $u$ $v$ en lugar de $f$$h$):
$$
\mathcal{G}(v) = \int_{\Omega}|\nabla\times v|^2\,dx,
$$
si el minimizer es $u$ y el variacional límite es también no hay ningún problema:
$$
0= \frac{d}{d\epsilon}\mathcal{G}(u+\epsilon v)\Bigg|_{\epsilon= 0} = 2\int_{\Omega} \nabla \times u\cdot \nabla \times v.
$$
Ahora vamos a utilizar la fórmula (1), dejando $\phi = \nabla \times u$, e $\psi = v$:
$$
\int_{\Omega}(v\cdot\nabla \times (\nabla \times u)- \nabla \times u\cdot \nabla\times v) =\left\{\begin{aligned} \int_{\partial \Omega} \big(\nu\times (\nabla \times u)\big)\cdot v\,dS
\\
\\
\int_{\partial \Omega} (v\times \nu) \cdot (\nabla \times u)\,dS
\end{aligned}\right.
$$
Hay dos opciones de modo de escribir límite de los términos a ser cero:
Se pueden establecer para el minimizer $\color{blue}{\nu\times (\nabla \times u)|_{\partial \Omega} = 0}$, y sólo tangencial parte es suficiente. $\nabla \times u|_{\partial \Omega = 0}$ es demasiado fuerte.
Puede establecer para la función de prueba de espacios de $\color{red}{\nu\times v = 0}$, $\nu \times u$ puede ser prescrito como cualquier permitido datos de límite de $g$ (aquellos que tienen 0 de la superficie de la divergencia).
La elección de azul, usted tiene que modular de un gradiente de una función adecuada de espacio $H$ a configurar una bien definida problema:
$$
\left\{\begin{aligned}
\nabla\times (\nabla \times u) &=0 \quad \text{ in } \Omega,
\\
\nu \times (\nabla \times u) &= 0\quad \text{ on } \partial \Omega.
\end{aligned}\right.\la etiqueta{2}
$$
Para $u \in H/\nabla p$ el cociente del espacio, lo que significa que no necesitamos decirle a la diferencia entre el$u $$u+\nabla p$, por encima de problema tiene una solución única. La única solución de (2) es cero, un.k.una. $u = 0$ o decir $u = \nabla p$. Una vez que añadimos un indicador de condición de $\nabla \cdot u = f$, (2) es equivalente al problema de Neumann para $p$:
$$
\left\{\begin{aligned}
\Delta p &= f \quad \text{ in } \Omega,
\\
\nabla p\cdot \nu &= 0\quad \text{ on } \partial \Omega.
\end{aligned}\right.
$$
La elección de rojo, el problema es:
$$
\left\{\begin{aligned}
\nabla\times (\nabla \times u) &=0 \quad \text{ in } \Omega,
\\
\nu \times u &= g\quad \text{ on } \partial \Omega.
\end{aligned}\right.\la etiqueta{3}
$$
De nuevo, este problema tiene una única solución en $H/\nabla p$, excepto que esta vez $p$ es constante en el límite que implica la $\nabla p\times \nu =0$. Si establecemos $g$ 0, luego por encima de problema tiene una solución cero, lo que significa que $u = \nabla p$. Ahora un indicador de condición de $\nabla \cdot u = f$, a continuación, (3) puede ser transformado a un Dirichlet fronteras problema para $p$:
$$
\left\{\begin{aligned}
\Delta p &= f \quad \text{ in } \Omega,
\\
p &= \mathrm{Constant}\quad \text{ on } \partial \Omega.
\end{aligned}\right.
$$
Resumen: el minimizer $u = \mathrm{arg}\min\mathcal{G}(v)$ es un gradiente de campo $\nabla p$, la condición de contorno de $p$ se basa en la condición límite de $u$. Tanto problema (2) y (3) no requieren de la componente normal de la $\nabla \times u$ o $u$ a imponerse. Si prescribe $\nabla\times u = 0$, en el límite, lo que implica $\nabla\times u\cdot \nu = 0$, el problema puede ser sobre-determinado.
