Para $n > 0$, vamos a $m = \lfloor n\sqrt{2}\rfloor$. Desde $\sqrt{2} \not\in \mathbb{Q}$,
$$n\sqrt{2} > m \implies 2n^2 > m^2 \implies 2n^2 \ge m^2 + 1 \implies \sqrt{2}n \ge \sqrt{m^2+1}$$
Esto implica
$$n\{n\sqrt{2}\} \ge n(\sqrt{m^2+1} - m) \ge \frac{1}{\sqrt{2}}\sqrt{m^2+1}(\sqrt{m^2+1}-m)\\ = \frac{1}{\sqrt{2}}\frac{\sqrt{m^2+1}}{\sqrt{m^2+1}+m} \ge \frac{1}{2\sqrt{2}}$$
Como resultado, $\displaystyle\;\liminf_{n\to\infty}\, n\{n\sqrt{2}\} \ge \frac{1}{2\sqrt{2}}$.
En el otro sentido, considerar el siguiente par de secuencias de enteros $(m_k), (n_k)$ definido por
$$m_k + n_k \sqrt{2} = (1 + \sqrt{2})^{2k+1}\quad\text{ for } k \in \mathbb{N}$$
Es fácil comprobar que están incrementando y $m_k^2 - 2n_k^2 = -1$. Como resultado,
$$\liminf_{n\to\infty}\ n\{n\sqrt{2}\}
\le \liminf_{k\to\infty}\, n_k\{n_k\sqrt{2}\}
= \liminf_{k\to\infty}\frac{1}{\sqrt{2}}\frac{\sqrt{m_k^2+1}}{\sqrt{m_k^2+1} + m_k}\\
= \lim_{m\to\infty} \frac{1}{\sqrt{2}}\frac{\sqrt{m^2+1}}{\sqrt{m^2+1}+m}
= \frac{1}{2\sqrt{2}}$$
Combinar estos, obtenemos $\displaystyle\;\liminf_{n\to\infty}\, n\{n\sqrt{2}\} = \frac{1}{2\sqrt{2}}$