No estoy seguro de con qué parte estás intentando ser riguroso, pero aquí tienes otro enfoque:
Sea $\epsilon >0$ . Desde $f$ en integrable, podemos encontrar $M$ tal que $\int_{[-M,M]^C} |f| < \frac{1}{2}\epsilon$ . Entonces tenemos (utilizando el hecho de que $\cos$ es Lipschitz de rango 1): \begin{eqnarray} |F(t)-F(s)| & = & |\int_{[-M,M]} f(x)(\cos(tx)-\cos(sx)) dx| \\ &\leq& \int_{[-M,M]} |f(x)||(\cos(tx)-\cos(sx))| dx \\ &\leq& \int_{[-M,M]} |f(x)||t-s||x| dx \\ &\leq& M |t-s| \int_{[-M,M]} |f(x)| dx \\ &\leq& M |t-s| \|f\|_1 \end{eqnarray} Ahora elija $|t-s| \leq \frac{1}{2 M \|f\|_1}\epsilon$ entonces $|F(t)-F(s)| < \epsilon$ .
Anexo (Me perdí la parte del lema de Riemann Lebesgue del problema originalmente).
Utilizamos el hecho de que las funciones suaves con soporte compacto $C_c^\infty(\mathbb{R})$ son densos en $L^1(\mathbb{R})$ . Si $f \in C_c^\infty(\mathbb{R})$ Fijar $t\neq 0$ y luego dejar que $\phi_t(x) = f(x) \frac{\sin(xt)}{t}$ . Tenga en cuenta que $\|\phi_t\| \leq \frac{1}{|t|} \|f\|_1$ . Tenemos $\phi_t'(x) = f'(x)\frac{\sin(xt)}{t} + f(x) \cos(xt)$ y para $|x|$ suficientemente grande, $\phi_t(x) =0$ . Por lo tanto, para cualquier $M$ suficientemente grande, $0 = \phi_t(M)-\phi_t(-M) = \int_{-M}^M \phi_t'(x) dx = \int_{-M}^M (f'(x)\frac{\sin(xt)}{t} + f(x) \cos(xt)) dx$ . Por lo tanto $\int f(x) \cos(xt) dx = -\int f'(x)\frac{\sin(xt)}{t} dx$ y así $| \int f(x) \cos(xt) dx | \leq \frac{1}{|t|} \|f'\|_1$ . De ello se deduce que $\lim_{t \to \infty} \int f(x) \cos(xt) dx = 0$ .
Ahora dejemos que $f \in L^1(\mathbb{R})$ , $\epsilon > 0$ y elija $g \in C_c^\infty(\mathbb{R})$ tal que $\|f-g\|_1 < \frac{1}{2} \epsilon$ . Entonces \begin{eqnarray} |F(t)| &\leq &|\int (f(x) -g(x))\cos(xt) dx + \int g(x)\cos(xt) dx| \\ &\leq & \|f-g\|_1 + |\int g(x)\cos(xt) dx| \\ &\leq & \frac{1}{2} \epsilon + \frac{1}{|t|} \|g'\|_1 \end{eqnarray} Por lo tanto, para $|t| $ suficientemente grande, tenemos $|F(t)|< \epsilon$ . Se obtiene el resultado deseado.