Las declaraciones no son equivalentes. Lo que falta es que $Hg=gH$ no implica que $hg=gh$ todos los $h\in H$: el conjunto de elementos $\{hg:h\in H\}$ puede ser igual al conjunto de elementos $\{gh:h\in H\}$ sin cada uno de los productos individuales $hg$ $gh$ siendo la misma.
Para un ejemplo concreto de esto, vamos a $G=S_3$, el grupo de simetría de un triángulo equilátero; se puede ver su tabla de multiplicación aquí. Deje $H=\{e,d,f\}$; es fácil comprobar que $H$ es un subgrupo de $G$. A continuación,$aH=\{a,b,c\}=Ha$, pero $ad=b\ne c=da$. Usted puede ir a comprobar que $xH=Hx$ por cada $x\in G$, por lo que el $H$ es normal en $G$, pero ninguno de los elementos $a,b$, e $c$ viajes con $d$ o $f$.