Usted tiene
$$u_n = n - \sum_{k=1} ^{n} \cos \frac{\sqrt{k}}{n} = \sum_{k=1} ^{n}\left(1-\cos \frac{\sqrt{k}}{n}\right)$$
Y como $\sum_{k=1} ^{n} k = \frac{n(n+1)}{2}$:
$$u_n - \frac{n+1}{4n} = \sum_{k=1} ^{n}\left(1-\cos \frac{\sqrt{k}}{n}-\frac{k}{2n^2}\right )$$
Y el uso del teorema de Taylor, se obtiene para todos los $x \in \mathbb R$
$$\left\vert 1-\cos(x)-x^2/2 \right\vert \leq x^4/24.$$
Por lo tanto
$$\left\vert u_n - \frac{n+1}{4n} \right\vert \le \sum_{k=1} ^{n}\left\vert1-\cos \frac{\sqrt{k}}{n}-\frac{k}{4n^2}\right\vert \le \frac{1}{24n^4}\sum_{k=1} ^{n} k^2 \tag{1}$$
Como $$\sum_{k=1} ^{n} k^2 = \frac{n(n+1)(2n+1)}{6}$$ the RHS of inequality $(1)$ converges to $0$.
Finalmente, $(u_n)$ converge a $1/4$ como $\lim\limits_{n \to \infty} \frac{n+1}{4n} =1/4$.