Considere la posibilidad de $h>0$ entonces no es$n$, de modo que $ \frac{1}{(n+1)\pi +\pi/2} < h\le \frac{1}{n\pi + \pi/2}$. En este intervalo de tiempo (llamado $I_n$), $\cos(1/t)$ es positivo (resp. negativo) si $n$ es impar (resp. incluso). También
$$\int_0^h \cos\left(\frac 1t\right) dt = \sum_{k=n+1}^\infty \int_{I_k} \cos\left(\frac 1t\right) dt + \int_{\frac{1}{(n+1)\pi + \pi/2}}^h \cos\left(\frac 1t\right) dt$$
Tenga en cuenta que el último término está delimitado por $\frac{2}{\pi n^2}$. Por otro lado, si nos vamos a
$$a_k = \int_{I_k} \cos\left(\frac 1t\right) dt,$$
y $a_k$ es una secuencia alternante y $a_k \to 0$. Si $l> k$, $|a_k| > |a_l|$ (ver abajo). Así tenemos
$$\left|\sum_{k=n+1}^\infty a_k\right| \le |a_{n+1}| \Rightarrow \left| \sum_{k=n+1}^\infty \int_{I_k} \cos\left(\frac 1t\right) dt\right| \le \int_{I_{n+1} }\left| \cos\left(\frac 1t\right) \right| dt \le \frac{2}{\pi n^2}. $$
Como $h \in I_n$, $h > \frac{1}{(n+1)\pi + \pi/2}> \frac{1}{2\pi n} \Rightarrow \frac{1}{h} < 2\pi n$. Así
$$\left|\frac 1h\int_0^h \cos \left(\frac 1t \right) dt \right| \le (2\pi n) \frac{4}{\pi n^2} = \frac{8}{n}. $$
Como $h\to 0$, $n\to \infty$ y por lo que el límite tiende a cero.
Nota: Si hacemos la sustitución de $u = 1/t$, luego
$$a_k = \int_{I_k} \cos\left(\frac 1t\right) dt = \int_{k\pi +\pi/2}^{(k+1)\pi + \pi/2} \frac{\cos u}{u^2} \mathrm du \Rightarrow |a_k| = \int_{k\pi +\pi/2}^{(k+1)\pi + \pi/2} \frac{|\cos u|}{u^2} \mathrm du.$$
Ahora $|\cos u|$ $\pi$- periódico, $|a_k|$ es estrictamente decreciente.