Dejemos que $\mathscr{H}$ sea un espacio de Hilbert. El dominio de un operador $A$ en $\mathscr{H}$ se denota $D(A)$ por un extensión de $A$ se entiende un operador $B$ con $D(A)\subset D(B)$ y $B|D(A)=A$ (donde $B|D(A)$ denota la restricción de $B$ a $D(A)$ ). Si $B$ es una extensión de $A$ es muy habitual escribir $A\subset B$ .
Ahora toma $A$ para ser densamente definido lo que significa que el subespacio lineal $D(A)$ de $\mathscr{H}$ es denso en $\mathscr{H}$ . Esta condición permite definir el operador adjunto $A^\ast$ de $A$ su definición es tal que $D(A^\ast)$ es el conjunto de todos los $y\in\mathscr{H}$ tal que el mapa $D(A)\ni x\mapsto (Ax,y)\in\mathbf{C}$ es continuo (por un teorema de Hahn-Banach este mapa se extiende entonces a $\mathscr{H}$ y lo hace de forma única ya que asumimos $A$ para que esté densamente definida). Por el teorema de la representación de Riesz para cada $y\in D(A^\ast)$ hay un elemento único de $\mathscr{H}$ que se denomina $A^\ast y$ , de tal manera que $(Ax,y)=(x,A^\ast y)$ para todos $x\in D(A)$ . Así, $A^\ast$ se define de tal manera que garantiza $(Ax,y)=(x,A^\ast y)$ para todos $x\in D(A)$ y $y\in D(A^\ast)$ .
$A$ es simétrico (o formalmente autoadjunto (aparentemente los físicos las llaman también hermitianas, pero ningún matemático lo haría) si $A\subset A^\ast$ ; autoadjunto si $A=A^\ast$ . Por tanto, todo operador autoadjunto es simétrico, pero no es necesario que se cumpla lo contrario. Sin embargo, si $A$ es continua y $D(A)=\mathscr{H}$ entonces $A$ simétrico implica $A$ autoadjunto. (En el caso de dimensión finita todo mapa lineal es continuo).
Algo que llama la atención en la mecánica cuántica (teorema de Hellinger-Toeplitz): si $A$ es simétrico y $D(A)=\mathscr{H}$ entonces $A$ es continua. Por lo tanto, si $A$ no es continua y simétrica, no se puede definir en el conjunto de $\mathscr{H}$ . (Esto demuestra que no se puede hablar de mecánica cuántica sin preocuparse por los dominios, ya que se puede demostrar que si los operadores $A$ y $B$ satisfacen la relación de conmutación canónica $AB-BA=iI$ entonces al menos uno de $A$ y $B$ no puede ser continua). También un operador simétrico $A$ es autoadjunto si su espectro es un subconjunto de la recta real (esto es importante en la mecánica cuántica, ya que el espectro recibe allí una interpretación física).
Hay otra noción que suele ser útil, sobre todo en física matemática. $A$ es esencialmente autoadjunto si $A$ es simétrico y su cierre es autoadjunto (tal operador admite una única extensión autoadjunta, a saber, su cierre). Esto aparece, por ejemplo, en la representación estándar de las relaciones de conmutación canónicas: $\mathscr{H}=L^2(\mathbf{R})$ , $A=-id/dx$ y $B$ sea la multiplicación por $x$ . $A$ y $B$ son esencialmente autoadjuntos en el espacio de Schwartz $\mathscr{S}(\mathbf{R})$ .
Observación: Incluso si $A$ está densamente definida, $A^\ast$ no tiene por qué estar densamente definida (de hecho, está densamente definida si $A$ es cerrable, por ejemplo, si $A$ es simétrica).
Si quieres una referencia, la referencia estándar es Reed/Simon: methods of modern mathematical physics, volume I (este es perfectamente riguroso para los estándares de las matemáticas).