El conjunto del problema es totalmente correcta con sólo una observación: puede establecer $$f'(x)\ge0$$ to have $f(x)$ increasing and maybe also strictly increasing since the the set on which $f'(x)=0$ para "funciones" como el dado no contiene intervalos.
Puede referirse también a esta otra respuesta para un comentario detallado sobre este último hecho.
Para una primera estimación de la gama note que para
$$3x^2+2kx+5\ge4$$
la condición se satisface, por lo tanto, desde aquí se puede encontrar un primer rango de $k\in[-\sqrt 3,\sqrt 3]$, de hecho
$$3x^2+2kx+1\ge0 \iff \Delta=4k^2-12\le 0$$
Para mejorar el resultado nos puede tratar de encontrar el mínimo de $f'(x)$ y se establece a $0$, que es
$$f''(x)=6x+2k+8\cos2x=0 \implies x=x_k$$
y
$$f'(x_k)=0$$