Una forma de hacerlo es a través de la teoría de las deformaciones, siempre que consideremos sólo grupos de automorfismo $G$ de orden no divisible por la característica (por supuesto, se puede suponer que es cíclico de orden primo). Entonces el espacio de moduli (o simplemente una deformación miniversal) de todas las curvas de género $g>1$ es suave con el espacio tangente en la curva $C$ igual a $H^1(C,T^1_C)$ . El espacio tangente del sublocus donde la acción de $G$ se extiende es igual a $H^1(C,T^1_C)^G$ y, por lo tanto, todas las curvas en una vecindad de $C$ tiene una acción de $G$ sólo cuando $G$ actúa trivialmente sobre $H^1(C,T^1_C)$ . El carácter (Brauer) de la acción puede calcularse mediante la fórmula de la traza holomorfa de Lefschetz (resp. de una elevación de $(C,G))$ y se ve que no es trivial. (A esto supongo que hay que añadir que hay una estratificación finita del espacio de moduli donde el grupo de automorfismo es fijo en cada estrato).
Anexo : En principio este método también podría manejar automorfismos de orden igual a la característica (digamos), lo que hay que demostrar es que actúan de forma no trivial sobre $H^1(C,T^1_C)$ . Sin embargo, no he pensado en eso.
Como sugiere Mariano también se pueden contar parámetros: Supongamos que $G$ es cíclico de orden primo. Si el orden no es igual a la característica se puede utilizar la fórmula de Hurwitz para obtener límites en el género de la curva cotizada y el número de valores críticos del mapa cociente. El recuento de los parámetros de la curva cociente y los valores críticos siempre da un valor menor que $3g-3$ (no es un cálculo difícil, pero tampoco es del todo agradable).
Anexo : El cálculo resulta no ser tan difícil. En efecto, si se trata de un automorfismo de orden primo $\ell$ , si $C\to C'$ es el mapa cociente y tenemos $r$ valores críticos, entonces la fórmula de Hurwitz da $$ 3(g-1) = 3\ell(g'-1) + \frac32(\ell-1)r, $$ donde $g'=g(C')$ y por otro lado queremos mostrar (cuando $g'>1$ ) que $3(g-1)>3(g'-1)+r$ que sigue inmediatamente como $\frac32(\ell-1)>1$ . Cuando $g'=1$ queremos demostrar que $3(g-1)>1+r-1=r$ ( $1$ parámetro para variar la curva elíptica y por automorfismos podemos fijar un valor crítico), es decir $\frac32(\ell-1)r>r$ es decir, $(3\ell-5)r>0$ que siempre está bien. Por último, con $g'=0$ estamos bien si $3(g-1)>\max(r-3,0)$ . Podemos suponer $r>3$ y luego $r\geq 6$ por razones de divisibilidad que da fácilmente que estamos bien a menos que $r=6$ y $\ell=2$ que da $g=2$ .
El caso de que el orden es igual a la característica es aún más complicado, hay que ver la contribución local en un valor crítico al género de $C$ que es del tipo Artin-Schreier y luego acotar el número de parámetros locales en tales coberturas (aquí tenemos parámetros incluso cuando los valores críticos y la curva cociente permanecen constantes). Sin embargo, también se podría utilizar el resultado de Oort que dice que una con un automorfismo de este tipo se eleva equitativamente.