Una idea es una buena manera de acercarse a las cosas.
Echemos un vistazo a cada uno de los casos en turno. Usted sabe que $a$ $b$ tiene orden finito, por lo que existen $m,n\in\mathbb{N}$ tal que $a^n=b^m=e$ (donde estamos assuminng el grupo está escrito multiplicatively y que ha elemento de identidad $e$).
1) Si se supone que $ab=ba$, entonces ¿qué sabe usted acerca de la $(ab)^2=abab$.? Puede usted encontrar una manera de escribir esto en el formulario de $a^rb^s$ algunos $r,s$.? Puedes hacer algo similar para $(ab)^i$ para un valor arbitrario de $i$.? Usted debe ser capaz, y entonces usted puede utilizar su suposición de que $a^n=b^m=e$ encontrar un " $i$ tal que $(ab)^{i}=e$.
2) Si $ab$ tiene orden finito, entonces usted sabe que hay una cierta $j$ tal que $(ab)^j=e$. Usted puede usar esto para determinar algo acerca de $(ba)^{j+1}$. Trate de trabajar de esto y la escritura en la forma $b^ra^s$ algunos $r,s$. A continuación, usted debe ser capaz de demostrar la parte (2).
3) Suponiendo que han resultado de la parte (2), ¿qué sabe usted acerca de la $(ba)^{-1}$. En particular, ¿qué sabe usted acerca de si $(ab)$ (y, por tanto, por la parte (2) $(ba)$) tiene orden finito?