Sugerencia 1: Integración por partes da
$$
\begin{align}
\int_a^\infty f'(x)^2\,\mathrm{d}x
&=\int_a^\infty f'(x)\,\mathrm{d}f(x)\\
&=\lim_{b\to\infty}f'(b)f(b)-f'(a)f(a)-\int_a^\infty f(x)f''(x)\,\mathrm{d}x\tag{1}
\end{align}
$$
Sugerencia 2: Como la Jirafa puntos, si $\int_a^\infty f'(x)^2\,\mathrm{d}x$ diverge, entonces por $(1)$, $\lim\limits_{x\to\infty}f'(x)f(x)=\infty$. Desde
$$
f(b)^2=\int_a^bf'(x)f(x)\,\mathrm{d}x\etiqueta{2}
$$
tenemos que $\int_a^\infty f(x)^2\,\mathrm{d}x$ diverge.
Por los comentarios, esto parece ser un poco más complicado de lo que corresponde a una pista, así que voy a explicar en más detalle. Tenga en cuenta que lo que sigue no es necesaria debido a la Sugerencia 2, pero las ideas son de aplicación más general, así que lo voy a dejar.
Reivindicación 1: $\displaystyle\lim_{x\to\infty}f'(x)=0$
Prueba: Supongamos que no; entonces, para algunos $\epsilon\gt0$ y todos los $x_0$, hay un $x\ge x_0$, de modo que $|f'(x)|\ge\epsilon$.
Desde $\|f''\|_{L^2}\lt\infty$, se puede elegir un $b$, de modo que
$$
\int_b^\infty f"(x)^2\,\mathrm{d}x\le\epsilon^4\etiqueta{1}
$$
Entonces, para cualquier $x,y\ge b$, de modo que $|x-y|\le1$, Cauchy-Schwarz dice
$$
\begin{align}
|f'(x)-f'(y)|
&\le\int_x^y|f''(x)|\,\mathrm{d}x\\
&\le\left(\int_x^y|f''(x)|^2\,\mathrm{d}x\right)^{1/2}|x-y|^{1/2}\\[9pt]
&\le\epsilon^2\tag{2}
\end{align}
$$
Para cualquier $x_0\ge b+1$, se puede elegir una $x\ge x_0$, de modo que $|f'(x)|\ge\epsilon$. Si $f'(x)$ $f(x)$ tienen el mismo signo, deje $I=[x,x+1]$, de lo contrario, deje $I=[x-1,x]$.
$\hspace{2cm}$
Por $(2)$, para $t\in I$, $|f'(t)|\ge\epsilon-\epsilon^2$ y $|f(t)|\ge\left(\epsilon-\epsilon^2\right)|t-x|$. Por lo tanto,
$$
\int_If(x)^2\,\mathrm{d}x\ge\frac13\left(\epsilon\epsilon^2\right)^2\etiqueta{3}
$$
Por supuesto, podemos encontrar una infinidad de puntos, por lo que el $|f'(x)|\ge\epsilon$. Por lo tanto,
$$
\int_b^\infty f(x)^2\,\mathrm{d}x\quad\text{diverge}\etiqueta{4}
$$
nos da una contradicción. QED
Reivindicación 2: $\displaystyle\lim_{x\to\infty}f(x)=0$
Prueba: Supongamos que no; entonces, para algunos $\epsilon\gt0$ y todos los $x_0$, hay un $x\ge x_0$, de modo que $|f(x)|\ge\epsilon$.
Desde $\displaystyle\lim_{x\to\infty}f'(x)=0$, se puede elegir un $b$, de modo que para todos los $x\ge b$,
$$
|f'(x)|\le\epsilon^2\etiqueta{5}
$$
Entonces, para cualquier $x,y\ge b$, de modo que $|x-y|\le1$, la Media del Valor Teorema dice
$$
\begin{align}
|f(x)-f(y)|
&\le\max_{t\in[x,y]}|f'(t)||x-y|\\
&\le\epsilon^2\tag{6}
\end{align}
$$
Para cualquier $x_0\ge b+1$, se puede elegir una $x\ge x_0$, de modo que $|f(x)|\ge\epsilon$. Para cualquier $t\in[x-1,x+1]$, $|f(t)|\ge\epsilon-\epsilon^2$. Por lo tanto,
$$
\int_{x-1}^{x+1}f(t)^2\,\mathrm{d}t\ge2\left(\epsilon\epsilon^2\right)^2\etiqueta{7}
$$
Por supuesto, podemos encontrar una infinidad de puntos, por lo que el $|f(x)|\ge\epsilon$. Por lo tanto,
$$
\int_b^\infty f(x)^2\,\mathrm{d}x\quad\text{diverge}\etiqueta{8}
$$
nos da una contradicción. QED