Sugerencia (Re-encuadre pregunta de aclaración): Lo que usted necesita demostrar es que, dado que cualquiera de los dos subgrupos $$H_1 \leq G\;\;\text{and}\;\;H_2\leq G\;\;\text{with}\;\;H_1\neq H2\;\;\text{ and with}\;\;\gcd(|H_1|,|H_2|)=1$$ $\quad \implica $ that one $H_i$ must be the trivial group, and the other "subgroup" $H_j = G$, since there can then be only two numbers dividing the order of $G$: one of order $1$, the other of order $|G|$, and hence, $G$ debe ser cíclica.
Usted puede hacer esto con el Teorema de Lagrange, pero realmente sólo necesitan tenga en cuenta que el orden de cualquier subgrupo de $G$ debe ser coprime a $1$, la orden de $\{e\}$, es decir, ya tenemos $\{e\} \leq G$, se debe de seguir para cualquier subgrupo $H$ de $G$, $\gcd(|\{e\}|, |H|) = 1$.
Nota: la cursiva de la calificación en la primera frase es crucial si la declaración es para ser verdad; por favor, consulte @DonAntonio comentario debajo de la pregunta.
Permítanme también ofrecer algunas aclaraciones con respecto a sus pensamientos:
"Sé de Lagrange que la orden se divide $|H_1|$$|H_2|$, pero si es así, entonces el orden de $G$ divide dos números, entonces no es un número primo."
Desde el Teorema de Lagrange, si $G$ es un grupo finito, entonces el orden de sus subgrupos divide el orden de $G$: así que si $H_1 \leq G$$H_2 \leq G$, luego el orden de $H_1$ divide el orden de $G$, y el orden de $H_2$ divide el orden de $G$. $|G|$ NO divida a la orden de cualquiera de sus subgrupos de otros que de sí mismo. $1$ divide el orden de cualquier grupo, incluyendo un grupo de primer orden $p$. Y el primer $p$ divide el orden de un grupo de primer orden $p$. Y un número primo, por definición, no es divisible por cualquier número distinto de $1$$p$.