Puedes usar la notación que desees siempre que la definas. Sin definir explícitamente $\mathcal{L}(\cdot, \cdot)$ se usa a menudo para denotar operadores lineales acotados de un espacio de Banach a otro. $C(M,N)$ es una notación ampliamente utilizada para denotar funciones continuas de $M$ a $N$. Uno podría usar $C(Y_{w^*}^*,X_{w^*}^*). Hay algunos libros que usan $C$ para operadores cerrados o compactos. La mejor opción siempre es definir explícitamente la notación.
Si deseas demostrar que $A^*:Y_{w^*}^*\to X_{w^*}^*$ es continua cuando se usan las topologías débiles-$*$ de $Y^*$ y $X^*$, entonces puedes hacer algo similar a lo que hiciste, excepto que deberías usar redes en lugar de secuencias.
Si $g_{\alpha}\in Y^*$ es una red que converge a $g\in Y^*$ en la topología débil-$*$, entonces $\forall y\in Y$ $g_\alpha(y)\to g(y)$ como una red en $\mathbb{C}$.
Luego $A^{*}(g_\alpha)\in X^*$ y para todo $x\in X$
$$A^{*}(g_\alpha)(x)=g_\alpha(A(x))\to g(A(x))=A^*(g)(x)$$
Por lo tanto, $A^*(g_\alpha)$ converge a $A^*(g)$ en la topología débil-$*$ de $X^*$.
Este es el mismo argumento que hiciste, excepto con la aclaración de que estamos usando redes en lugar de solo secuencias, y usando la notación funcional en lugar de la notación de corchetes, pero eso es solo porque me lleva más tiempo escribir $\langle$ y $\rangle$.
La necesidad de redes en lugar de secuencias se debe a que la topología débil-$*$ no es necesariamente primer-contable. Esto puede ocurrir, por ejemplo, si $X$ y/o $Y$ tienen dimensión incontable.
Prueba de que continua implica acotada
Esto es válido para cualquier transformación lineal continua entre espacios vectoriales topológicos localmente convexos.
Dado que $A^*$ es continua, para cada $x\in X$ y $e>0$, existe un número finito de $y_1,...,y_n\in Y$ y $e_1,...,e_n>0$ tal que $A^*(\bigcup_{i=1}^n\{y^*:\ |y^*(y_i)|.
Esto significa que $\forall i=1,...,n, |y^*(y_i)|<\min_{i\in\{1,..,n\}}(e_i)$ implica $|A^*(y^*)(x)|.
Por lo tanto, escalando el $y^*$ obtenemos $$|A^*(y^*)(x)|\leq \frac{e}{\min_{i\in\{1,..,n\}}e_i}\max_{i\in\{1,..,n\}}|y^*(y_i)|$$
