Nota: Mi anterior, se elimina la respuesta era errónea. Me disculpo. Os presento una nueva prueba (esperemos que una correcta este momento), que utiliza las propiedades de la medida de Lebesgue. (Como Michael Hardy respuesta y los comentarios de zhw. demostrado, el uso de Lebesgue del teorema de convergencia dominada es bastante difícil de alcanzar.)
Lema: Para cualquier intervalo abierto $(a,b)$ (donde $a$ $b$ son números reales tales que a $a<b$), uno ha $$\int_a^b\cos(nx)\,\mathrm d x\to0\quad\text{as $n\to\infty$}.$$
Prueba: Esto no es muy difícil: $$\int_a^b\cos(nx)\,\mathrm d x=\frac{\sin(nb)-\sin(na)}{n}\quad\text{for any $n\in\mathbb N$}.$$ Now, the numerator stays between $[-2,2]$, and the denominator diverges to infinity as $n\to\infty$. $\blacksquare$
Fix $\varepsilon>0$. Desde $A$ es compacto, $m(A)<\infty$ y, por la construcción de la medida de Lebesgue, existen secuencias de números reales $(a_k)_{k\in\mathbb N}$ $(b_k)_{k\in\mathbb N}$ tal que
- $a_k<b_k$ por cada $k\in\mathbb N$;
- $A\subseteq\bigcup_{k\in\mathbb N}(a_k,b_k)$;
- $m(A)\leq\sum_{k=1}^{\infty}(b_k-a_k)<m(A)+\varepsilon$.
Desde $A$ es compacto, la apertura de la tapa $\{(a_k,b_k)\}_{k\in\mathbb N}$ tiene un número finito de subcover, por lo que $$A\subseteq \bigcup_{\ell=1}^{L}(a_{k_{\ell}},b_{k_{\ell}})$$ for some $\{k_1,\ldots,k_L\}\subseteq\mathbb N$ and $L\in\mathbb N$. Letting $B\equiv\bigcup_{\ell=1}^{L}(a_{k_{\ell}},b_{k_{\ell}})$, it is not difficult to see that $B$ can be represented as a finite union of disjoint open intervals (hint: use induction on the number of intervals). This, together with the Lemma, yields that $$\int_B\cos(n x)\,\mathrm dx=0\quad\text{as $n\to\infty$.}\tag{$\clubsuit$}$$
Observar también que
\begin{align*}
m(B\setminus A)=&\,m(B)-m(A)=m\left(\bigcup_{\ell=1}^L(a_{k_{\ell}},b_{k_{\ell}})\right)-m(A)\leq\sum_{\ell=1}^L(b_{k_{\ell}}-a_{k_{\ell}})-m(A)\\
\leq&\,\sum_{k=1}^{\infty}(b_k-a_k)-m(A)< [m(A)+\varepsilon]-m(A)=\varepsilon.
\end{align*}
Siguiente, por un determinado $n\in\mathbb N$, uno tiene que
\begin{align*}
\left|\int_A\cos(nx)\,\mathrm dx\right|=&\left|\int_B\cos(nx)\,\mathrm dx-\int_{B\setminus A}\cos(nx)\,\mathrm dx\right|\leq\left|\int_B\cos(nx)\,\mathrm dx\right|+\left|\int_{B\setminus A}\cos(nx)\,\mathrm dx\right|\\
\leq&\,\left|\int_B\cos(nx)\,\mathrm dx\right|+\int_{B\setminus A}|\cos(n x)|\,\mathrm dx\leq\left|\int_B\cos(nx)\,\mathrm dx\right|+\int_{B\setminus A}\,\mathrm dx\\
=&\,\left|\int_B\cos(nx)\,\mathrm dx\right|+m(B\setminus A)<\left|\int_B\cos(nx)\,\mathrm dx\right|+\varepsilon.
\end{align*}
($\clubsuit$), Uno ha $$\limsup_{n\to\infty}\left|\int_A\cos(nx)\,\mathrm dx\right|\leq\limsup_{n\to\infty}\left\{\left|\int_B\cos(nx)\,\mathrm dx\right|+\varepsilon\right\}=\varepsilon.$$
Desde $\varepsilon$ puede hacerse arbitrariamente pequeña, se deduce que el $$\limsup_{n\to\infty}\left|\int_A\cos(nx)\,\mathrm dx\right|=0,$$
lo que implica el resultado deseado.