Otra solución de las relaciones:
Usted tiene la relación $xy=yx^2=yx^{-1}$ . Esto significa que $y^{-1}xy=x^{-1}$ . Así que $y$ conjugados $x$ a $x^{-1}$ y luego $y^2$ conjugados $x$ a $(x^{-1})^{-1}=x$ y finalmente $y^3=1$ conjugados $x$ a $x^{-1}$ . Así $x=x^{-1}$ que es lo mismo que decir $x^2=1$ y multiplicando ambos lados por $x$ tenemos $1=x^3=x$ .
EDITAR : Aquí está una prueba de mi comentario, que el grupo $G= \langle x,y \mid x^n=y^m=1, xy=yx^r \rangle $ tiene orden $mn$ precisamente cuando $r^m=1 \pmod {n}$ . Usaré el hecho ya dado en el cuerpo de la pregunta, que $G$ puede tener orden a lo sumo $mn$ [esto se ve con sólo listar todos los elementos posibles].
Primero, note que al igual que en mi respuesta, tenemos $y^{-1}xy=x^r$ y así $y^{-k}xy^k=x^{r^k}$ . Dejando $k=m$ tenemos
\begin {alinear} x &= y^{-m}xy^m \\ &= x^{r^m} \end {alinear} Y así $r^m-1$ divide $|x|$ . Así que si $r^m \neq1\pmod {n}$ Entonces $|x| \le\gcd (n, r^m-1)<n$ y así $|G|<mn$ .
Ahora supongamos $r^m=1 \pmod {n}$ . Podemos mostrar $|G|=mn$ dando una representación explícita (permutación) de $G$ que tiene orden $mn$ . [Para ver por qué, esto muestra $|G| \ge mn$ y junto con $|G| \le mn$ tenemos $|G|=mn$ .]
Trabajaremos en el grupo simétrico $S_{n+m}$ y dejar que nuestro representante de $x$ ser el $n$ -ciclo $(1, 2, \ldots , n)$ . Tenga en cuenta que $x^r$ entonces parece que $(1, r+1, 2r+1, \ldots )$ . Si definimos la permutación $ \alpha $ como $$ \begin {pmatrix} 1 & 2 & \cdots & n \\ 1 & r+1 & \cdots & (n-1)r+1 \end {pmatrix}$$ entonces tenemos $ \alpha ^{-1}x \alpha =x^r$ . De hecho, podemos dar una fórmula explícita para $ \alpha $ : $$ \alpha (i) = (i-1)r+1 \pmod {n}$$
Obsérvese que, para cualquier número entero positivo $k$ tenemos $ \alpha ^k(i)=(i-1)r^k+1 \pmod {n}$ . Por lo tanto, una vez más dejar $k=m$ tenemos $$ \alpha ^m(i) = (i-1)r^m+1 \pmod {n}$$ Desde $r^m=1 \pmod {n}$ vemos entonces que $ \alpha ^m(i)=i$ para todos $i \in\ {1, \ldots ,n\}$ .
Así, $| \alpha |$ divide $m$ . Desafortunadamente, no hemos terminado, ya que no siempre es cierto $ \alpha $ tiene orden $m$ (para ver un ejemplo explícito, intente $n=m=4$ y $r=3$ ).
Sin embargo, esta es la razón por la que trabajamos en $S_{n+m}$ y no sólo $S_n$ . Podemos llevar al representante de $y$ para ser $ \alpha\cdot (n+1, \ldots , n+m)$ y luego $|y|=m$ y $y$ actúa sobre $x$ de la misma manera $ \alpha $ lo hace: $y^{-1}xy=x^r$ .
Finalmente, si $H= \langle x,y \rangle\le S_{n+m}$ Entonces $K= \langle x \rangle $ es normal en $H$ y $H/K \cong\langle y \rangle $ . Desde $|x|=n$ y $|y|=m$ Tenemos $|H|=mn$ como se desea.