Puede que sea una pregunta sencilla, pero no he podido encontrar una discusión adecuada en ninguna fuente que la responda del todo.
En muchos casos en la mecánica cuántica, las trazas se evalúan utilizando el espectro discreto del Hamiltoniano: $Tr[A] = \sum \langle n|A|n\rangle$ . ¿Existe una generalización para un hamiltoniano con un espectro continuo? Como ejemplo concreto, tomemos $H=\frac{p^2}{2}$ , el Hamiltoniano de la partícula libre no relativista. Los valores propios del Hamiltoniano son sólo estados propios del momento, con las energías correspondientes $E(p) = p^2/2$ . Así que podríamos escribir los estados propios de energía como $|E,\pm\rangle$ , donde $E$ oscila entre 0 y $\infty$ y más/menos denota las partículas que se mueven a la derecha/izquierda.
Digamos que quiero calcular la función de partición, $Z(\beta) = Tr[e^{-\beta H}]$ . Si lo intento ingenuamente expandiendo la traza en la base del momento, obtengo $$Z(\beta) = \int_{\mathbb{R}} dp \langle p | e^{-\beta p^2/2} | p \rangle = \int dp e^{-\beta p^2 /2} \delta(0) = \delta(0)\sqrt{\frac{2\pi}{\beta}}.$$
Por otro lado, si expandiera en la base propia de la energía, obtendría ingenuamente $$Z(\beta) = \sum\limits_{s\in\{+,-\}}\int_{\mathbb{R}\geq0} dE \langle E,s| e^{-\beta H} | E,s \rangle = 2\int dE e^{-\beta E} \delta(0) = \frac{2}{\beta}\delta(0),$$ que no es lo mismo que lo anterior.
Mi sospecha de lo que salió mal en este cálculo en particular es que la medida para evaluar la traza en la base de energía era incorrecta (podría ser posible ver esto cambiando las variables en la integral de la base de momento), pero no estoy seguro. Mi segunda sospecha es que el formalismo del espacio de Hilbert amañado podría aclarar la ambigüedad. En cualquier caso, sería útil ver bajo qué condiciones existe una traza de tipo integral como la anterior y está bien definida.