En resumen: no No lo has hecho correctamente. La razón es que $\infty\cdot 0$ es uno de los indeterminado formas, no se puede concluir que sea igual a cero.
La razón es: puede ser cualquier cosa. Por ejemplo, $$\begin{align} \underbrace{n}_{\to \infty}\cdot \underbrace{\frac{1}{n}}_{\to 0} &\xrightarrow[n\to\infty]{} 1\\ \underbrace{n^2}_{\to \infty}\cdot \underbrace{\frac{1}{n}}_{\to 0} &\xrightarrow[n\to\infty]{} \infty\\ \underbrace{n}_{\to \infty}\cdot \underbrace{\frac{1}{n^2}}_{\to 0} &\xrightarrow[n\to\infty]{} 0\\ \underbrace{n}_{\to \infty}\cdot \underbrace{\frac{\cos n}{n}}_{\to 0} &\xrightarrow[n\to\infty]{} \text{ nothing (no limit)} \end{align}$$
Para resolver tu forma indeterminada, tienes que utilizar otras técnicas para "eliminar" ese problema. Expansiones de Taylor, multiplicación por un conjugado, regla de L'Hôpital... hay métodos conocidos y sistemáticos para hacerlo.
Por ejemplo, con las expansiones de Taylor: cuando $u\to 0$ , $$ \sqrt{1-5u} = 1-\frac{5}{2}u + o(u) $$ por lo que aplicarlo con $u\stackrel{\rm def}{=}\frac{1}{n}\xrightarrow[n\to\infty]{}0$ , $$\begin{align} n\left(1- \sqrt{1-\frac{5}{n}}\right) &= \frac{1}{u}\left(1- \sqrt{1-5u}\right) = \frac{1}{u}\left(1- 1 + \frac{5}{2}u + o(u)\right) = \frac{1}{u}\left(\frac{5}{2}u + o(u)\right)\\ &= \frac{5}{2} + o(1) \xrightarrow[n\to\infty]{}\frac{5}{2}. \end{align}$$
Adenda: ¿por qué hace eso tu calculadora? La respuesta correcta es $\frac{5}{2}=2.5$ . Sin embargo, para los "muy grandes $n$ ", su calculadora devolverá $0$ en su lugar... y eso se reduce a precisión de la máquina . Supongo que empieza por computar el término $\sqrt{1-\frac{5}{n}}$ y luego introduce el resultado para obtener $1-\sqrt{1-\frac{5}{n}}$ y finalmente multiplica lo que queda por $n$ y emite el valor. Pero para las grandes $n$ debido a la precisión de la máquina y a los errores de redondeo, el primer paso estará tan cerca de $1$ que la calculadora sólo computará $1$ en lugar de $\sqrt{1-\frac{5}{n}}\approx 1 - \frac{5}{2n}$ . Así que entonces, $1-1=0$ y no importa el último paso debe hace, devuelve $n\cdot 0=0$ .