Bueno, técnicamente son esas funciones $z \in C^\infty(\mathbb{R}^{n+1}_+)$ cuyo soporte está contenido dentro de la región delimitada por $\partial_L C_\Omega$ para usar su notación.
En ese caso, la respuesta es sí, y se hace la molificación de la forma habitual (lo que sigue es un recuento directo de la técnica de molificación que se puede encontrar, por ejemplo, en el primer capítulo del libro de Adams sobre Espacios de Sobolev, ligeramente adaptado para nuestro caso).
Dejemos que $u \in X_0^\alpha(C_\Omega)$ y $\varphi$ sea su función bump favorita apoyada en una bola de radio 1 en $\mathbb{R}^{n+1}$ y hacer que su espacio sea todo el cilindro $$C_\Omega' = \{ (x,y): x \in \Omega, y \in \mathbb{R} \}$$ y ampliar $u$ por reflexión uniforme (para $y < 0$ , dejemos que $u(x,y) = u(x,-y)$ ). Sea $d(X) = d(x,\partial \Omega)$ donde $X=(x,y)$ . Definir $$u(X,\epsilon) = \begin{cases}u(X) & \text{if} \,\,d>2\epsilon \\ 0 &\text{otherwise}\end{cases} $$ y posteriormente $$u_\epsilon(X) = (u(X,\epsilon) *\frac{1}{\epsilon^n}\varphi(\frac{X}{\epsilon}))$$ A partir de aquí, es bastante sencillo ver que $u_\epsilon \in C^\infty_c(C_\Omega')$ y sólo queda demostrar que $$\int_{C_\Omega'} y^{1-\alpha} |\nabla u - \nabla u_\epsilon|^2 dx dy \rightarrow 0$$ como $\epsilon \rightarrow 0$ .
Observe que $y^{1-\alpha} dx dy$ es una buena medida positiva acotada para $0 < \alpha < 2$ (que es siempre el caso cuando se considera la extensión para el laplaciano fraccionario), por lo que las funciones continuas de soporte compacto son densas en $L^2(y^{1-\alpha} dx dy)$ . Elija $n+1$ tan bonitas funciones $G=(g_1,\ldots,g_{n+1})$ , de tal manera que $$\int_{C_\Omega'} |\nabla u - G|^2 y^{1-\alpha} dx dy < \frac{\eta}{6}$$ Definir $G_\epsilon(X)$ de la misma manera que definimos $u_\epsilon$ . Ahora $$|\nabla u - \nabla u_\epsilon| \leq |\nabla u - G| + |G - G_\epsilon| + |G_\epsilon - \nabla u_\epsilon|$$ Está claro (simplemente usando Fubini y haciendo la convolución primero) que $$\int y^{1-\alpha} |G_\epsilon - \nabla u_\epsilon|^2 dx dy < \frac{\eta}{6}$$ por lo que sólo nos queda considerar el término en $|G_\epsilon - G|$ . Sin embargo, $G$ es uniformemente continua, por lo que para $\epsilon$ suficientemente pequeño tenemos $|G_\epsilon - G|^2 < \frac{\eta}{C}$ , excepto, posiblemente, cuando $d(X) < 3\epsilon$ . Dado que el apoyo de $G$ está acotado, elija $C$ para que $$\int y^{1-\alpha} |G_\epsilon - G|^2 dx dy < \frac{\eta}{6}$$