Se puede usar la siguiente: un grupo de $G$ es nilpotent si y sólo si $G' \subseteq \Phi(G)$. Aquí, $\Phi(G)$ es el Frattini subgrupo de $G$, siendo la intersección de todas máxima subgrupos de $G$ ($\Phi(G)=G$ si $G$ no tiene ningún máxima de los subgrupos). $\Phi(G)$ es una característica de los subgrupos. Para una prueba de los hechos expuestos ver por ejemplo aquí.
También, $\Phi(G)$ se compone de los llamados no-generadores: siempre se puede ser removido de un conjunto de generadores para $G$
sin que afecte a la propiedad de la generación de $G$.
Ahora, weaponed con este conocimiento, volviendo a tu post: si $G/G'$ es cíclica, a continuación, puesto que $G' \subseteq \Phi(G)$, $G/\Phi(G)$ es cíclico, lo que implica la $G=\Phi(G)\langle x \rangle$ algunos $x \in G$. Pero $\Phi(G)$ no son generadores, así, obtenemos $G=\langle x \rangle$, de donde $G$ es cíclico y, en particular, abelian.
Otra manera de probar esto es la siguiente y es independiente del hecho de que $G$ es finito o no (véase el comentario del profesor. Holt a continuación, gracias). Para ello necesitamos un lema.
Lema Deje $G$ ser un grupo con subgrupos $H$ y normal subgrupo $N$, de tal manera que $G=HN$. A continuación,$G'=H'[G,N]$.
Prueba (boceto) es claro que $H'[H,N] \subseteq G'$. Por lo tanto, tenemos que demostrar que la inversa de la inclusión. Pretendemos que $H'[G,N]$ es un subgrupo normal de $G$:$[G,N] \unlhd G$, e $H$ normaliza $H'$, por lo que es suficiente para mostrar que $N$ normaliza $H'$, ya que el $G=HN$. Pero si $n \in N$$h \in H'$,$n^{-1}hn=h[h,n] \in H'[H',N] \subseteq H'[G,N]$, lo que demuestra la demanda. La prueba puede ahora ser terminado mediante el cálculo de un colector $\overline{[h_1n_1,h_2n_2]}$ en el cociente grupo $G/H'[G,N]$, que será igual a $\overline{1}$.
Supongamos ahora que $G$ es nilpotent y $G/G'$ es cíclico. A continuación, hay un $g \in G$ tal que $G/G'=\langle \overline{g} \rangle$. Poner $H=\langle g \rangle$, entonces se sigue que $G=HG'$. El Lema ahora implica que $\gamma_2(G)=H'\gamma_3(G)=\gamma_3(G)$. Sin embargo, $G$ es nilpotent, por lo que, la parte inferior central de la serie sólo puede estabilizar si $\gamma_2(G)=\gamma_3(G)=1$, de donde $G$ es abelian.