Basado en el contexto establecido en el texto de la pregunta, supongo que podemos tomar
0 \in \Bbb N; \tag 1
También quiero aprovechar que
a \le b. \tag 2
Tenemos las siguientes
Lema: Supongamos
g_n \in C[a, b] \tag 3
es una secuencia tal que
g_n \to f \; \text{as} \; n \to \infty \tag 4
entonces
\displaystyle \lim_{n \to \infty} \int_a^b fg_n \; dx = \int_a^b f^2 \; dx. \tag 5
La prueba del Lema:
Observar que
\displaystyle \int_a^b f^2 \; dx - \int_a^b f g_n \; dx = \int_a^b (f^2 - fg_n) \; dx = \int_a^b f(f - g_n) \; dx; \tag 7
así
\left \vert \displaystyle \int_a^b f^2 \; dx - \int_a^b f g_n \; dx \right \vert = \left \vert \displaystyle \int_a^b f(f - g_n) \; dx \right \vert
\le \displaystyle \int_a^b \vert f (f - g_n) \vert \; dx = \displaystyle \int_a^b \vert f \vert \vert f - g_n \vert \; dx \le \int_a^b \vert f \vert \Vert f - g_n \Vert \; dx = \Vert f - g_n \Vert \int_a^b \vert f \vert \; dx; \tag 8
pasando al límite,
\lim_{n \to \infty} \left \vert \displaystyle \int_a^b f^2 \; dx - \int_a^b f g_n \; dx \right \vert \le \lim_{n \to \infty} \Vert f - g_n \Vert \displaystyle \int_a^b \vert f \vert \; dx = 0; \tag 9
por lo tanto (5), que se une. Final: la Prueba del Lema.
Con este lema en la mano podemos proceder con la observación de que la función
x:[a, b] \to \Bbb R \tag{10}
separa los puntos en [a, b]; esto es, para cualquier
c_1, c_2 \in [a, b], \; c_1 \ne c_2, \tag{11}
tenemos
x(c_1) = c_1 \ne c_2 = x(c_2); \tag{12}
a continuación, se deduce de la Piedra-teorema de Weierstrassque la sub-álgebra de C[a, b] generado por x y la constante de funciones es densa; ya que este sub-álgebra es el conjunto de bienes polinomios en x, se deduce que existe una secuencia de polinomios p_n(x) tales que
p_n(x) \to f(x) \; \text{in} \; C[a, b]; \tag{13}
es decir,
\displaystyle \lim_{n \to \infty} \Vert p_n(x) - f(x) \Vert = 0, \tag{14}
y a partir de la hipótesis de que
\displaystyle \int_a^b x^m f(x) \; dx = 0, \; \forall m \in \Bbb N, \tag{15}
la linealidad de la integral nos permite concluir que
\displaystyle \int_a^b p_n(x) f(x) \; dx = 0, \forall n \in \Bbb N; \tag{16}
ahora aplicando el lema encontramos
\left \vert \displaystyle \int_a^b f^2(x) \; dx \right \vert = \lim_{n \to \infty} \left \vert \displaystyle \int_a^b f^2 \; dx - \underbrace{\int_a^b p_n f \; dx}_{0} \right \vert \le \lim_{n \to \infty} \Vert f - p_n \Vert \displaystyle \int_a^b \vert f \vert \; dx = 0, \tag{17}
que las fuerzas de
\displaystyle \int_a^b f^2(x) \; dx = 0; \tag{18}
ahora desde f^2(x) es un valor no negativo continua en función de ello se sigue que
f(x) = 0, \forall x \in [a, b]. \tag{19}
OE\Delta.