Estás cometiendo un error que probablemente sea el más común entre las personas que aún se están acostumbrando a los pequeños $o$ (y es principalmente consecuencia de una explicación chapucera de la notación):
El pequeño $o$ no describe funciones describe establece
Con esto quiero decir que si tienes una función $g$ entonces $o(g)$ no es un función es un conjunto que contiene todas las funciones $f$ para lo cual, para cada $\epsilon > 0$ existe una constat $M$ que $|f(x)| < |g(x)|$ para todos $x>M$ .
Ahora, si tienes dos funciones, $f$ y $g$ no se puede decir que $f=o(g)$ porque $o(g)$ no es una función (y por tanto no puede ser igual a $f$ ). Lo que usted puede decir es que $f\in o(g)$ con lo que quiere decir que $f$ baja a $0$ más rápido que $g$ .
Dicho esto, no sé muy bien lo que me pregunta. ¿Quiere demostrar que $F(x)$ se define para cada $x$ (lo que no es cierto para cualquier función $f$ ), o quieres demostrar que la integral $$\int_0^\infty F(x)dx$$ ¿existe?