Entiendo la definición de un espacio de Hilbert. Pero no entiendo por qué la no conmutatividad nos obliga a usar espacios de Hilbert.
No lo hace, pero eso no es lo que está diciendo Scrinzi.
La razón por la que no lo hace es porque podríamos trabajar, por ejemplo, en la representación de cuasi probabilidad de Wigner: $$\rho\mapsto W(x,p) = \frac{1}{\pi\hbar}\int_{-\infty}^\infty\langle x+x'|\rho|x-x'\rangle e^{-2ipx'/\hbar}\,\mathrm{d}x'\text{,}$$ donde para estados puros $\rho = |\psi\rangle\langle \psi|$ como es usual, y los operadores hermitianos corresponden a funciones mediante la transformación de Weyl inversa.
Observa que $W(x,p)$ es una función real que es como una distribución conjunta de probabilidad sobre el espacio de fases, excepto que se le permite ser negativo. El principio de incertidumbre nos exige renunciar a algo, pero en realidad no nos obliga a usar espacios de Hilbert.
Sin embargo, lo que Scrinzi está diciendo son dos cosas: (a) los espacios de Hilbert son muy convenientes para nosotros en la mecánica cuántica, y (b) los espacios de Hilbert podrían ser utilizados en la mecánica clásica, pero como la no conmutatividad no existe en la mecánica clásica, es "excesivo" allí, mientras que en la mecánica cuántica es "justo". Ambas afirmaciones son correctas.
La razón por la que podríamos haber utilizado espacios de Hilbert en la mecánica clásica es porque pueden representar álgebras de observables muy generales, mientras que el álgebra clásica de observables, al ser conmutativa, es en realidad más simple. (Cf. el teorema de Gel'fand-Naimark para álgebras $C^*$ en particular.)
La formulación del espacio de Hilbert de la mecánica clásica fue realizada por Koopman y von Neumann en 1931-1932. Pero lo que su formulación realmente hace es generalizar la mecánica clásica a menos que uno imponga una restricción artificial de que solo se permite medir observables en un conjunto mutuamente conmutativo; solo entonces se recupera exactamente la mecánica clásica (en el sentido del siglo XIX).
Es esa restricción artificial la que la mecánica cuántica elimina. Físicamente, la no conmutatividad de observables corresponde a un principio de incertidumbre entre ellos.