Usted tiene que tener cuidado. En general, $M$ ni siquiera tiene que ser homeomórficos a la órbita en el espacio. Para un contraejemplo, considere la posibilidad de $M=\mathbb{R}$ $G$ el grupo de los números reales con la topología discreta. Tenga en cuenta que $G$ sigue siendo una Mentira grupo con esta topología, una $0$-dimensiones de la Mentira de grupo. Entonces hay una acción suave de $G$ $M$ por la izquierda de la multiplicación, que es claramente gratis y transitiva. Sin embargo, $G$ no es homeomórficos a $M$, ya que el $M$ está conectado y $G$ está desconectado.
La buena noticia es que si el mapa $G/G_{x_0} \to M$ que usted describe (que ya es continuo y bijective) pasa a ser un homeomorphism, entonces es un diffeomorphism. Usted puede comprobar esto por ejemplo en la Proposición 4.3 del libro "la geometría Diferencial, la Mentira grupos y simétrica espacios" de S. Helgason.
Esto sucede, por ejemplo, si la acción de $G$ $M$ es adecuada, es decir, si el mapa
$$ A \colon G \times M \to M \times M $$
$$ (g,m) \mapsto (m,gm) $$
es adecuado. Esto significa que la imagen inversa de un conjunto compacto es compacto. Veamos que en este caso el mapa de $G/G_{x_0} \to M$ es un homeomorphism. Consideremos, en primer lugar el mapa
$$ a \colon G \to M$$ that takes $g$ to $gx_0$. If $K$ a compact set in $M$, then $\{x_0\} \times K$ is compact in $M \times M$ and therefore $^{-1}(\{x_0\} \times K)$ is compact in $G \times M$. Then $^{-1}(K) = \text{pr}_2(A^{-1}(\{x_0\} \times K))$ is compact and so $$ es correcto.
Por el argumento aquí, el mapa de $a$ es cerrado y desde $G/G_{x_0}$ tiene el cociente de la topología del cociente $G \to G/G_{x_0}$, el mapa de $G/G_{x_0} \to M$ también está cerrada. Por lo tanto, es un homeomorphism.
La condición de propio sucede muy a menudo, por ejemplo, una acción de un compacto de Lie de un grupo sobre un colector es siempre la correcta. En cualquier caso, si $G$ es compacto y $M$ es Hausdorff, entonces $G/G_{x_0}$ también es compacto y, a continuación, se puede concluir que el mapa de $G/G_{x_0} \to M$ es un homeomorphism.