ya no puedo comentario que voy a escribir aquí. Usted probablemente ha hecho demasiado, pero no puedo saber que voy a presentar mis conclusiones.
Primero de todo hay un error en tu ejemplo, $pS_3$ debe $\{ (),(132)\}$, lo he comprobado en Mathematica.
Ahora, obviamente, cuando se $p(x)=axa^{-1} x^{-1}$ actúa en $S_n$ obtenemos un subconjunto de colector de un subgrupo de $S_n$, es decir, un subconjunto de a $A_n$. Ese subconjunto depende de cual $a\in S_n$ elegimos. Haciendo algunos cálculos que he encontrado, hay un poco de orden en todo esto, todos los $a$'s de la misma clase conjugacy dar similar subconjuntos es decir, todos ellos tienen el "mismo" elementos de seguridad para una clase conjugacy de un elemento en particular. (la prueba es fácil)
Ahora, si se pudiera determinar la estructura cíclica y el número de todos los elementos de los subconjuntos usted puede fácilmente calcular su suma. Yo era incapaz de hacerlo, pero me hizo hacer algunas heurísticas para $a$ de ciclo específico tipo y $i=1$.
Ejemplo:
$a=(12)$, $i=1$ , $S_n$, $p(x)=(12)x(12)^{-1} x^{-1}$
$X(S_n,p,i)= 2(n-2)3 + 2{n-2 \choose 2} +1 $
y para $a=(123)$
$X(S_n,p,i)= (2(n-3)+1)3 + 5{n-3 \choose 2}6 + 3(n-3)2 + 2{n-3 \choose 3}3 + (n+3) +1 $
Como usted puede ver no puede ser una fórmula para esto, pero simplemente no tienen tiempo para investigar esto. También esto es válido sólo para $a$ que contiene el punto de $i=1$, los ciclos de la que se hicieron del mismo tipo pero sin $i=1$ por ejemplo (2,3) o (2,3,4), producen diferentes fórmulas (una especie de división en clase conjugacy de $a$), lo que se espera. Llegué a esta inspección de los subconjuntos generados por todos los $a$'s de la clase conjugacy, para los 10 primeros grupos simétricos, más allá de que mi computadora es muy lenta.
Hice esto para mostrar lo complicado, y muy interesante, este es. Seguro que sería agradable ver a algunos de fórmula general para este, pero está fuera de mi alcance.
sym = GroupElements[SymmetricGroup[4]];
tz = DeleteDuplicates[Table[PermutationProduct[Take[sym, {i}][[1]],Cycles[{{1, 2, 3}}],InversePermutation[Take[sym, {i}][[1]]]], {i, 1, 4!}]]
TableForm[Table[Sort[DeleteDuplicates[Table[PermutationProduct[Take[tz, {k}][[1]],Take[sym, {i}][[1]],InversePermutation[Take[tz, {k}][[1]]],InversePermutation[Take[sym, {i}][[1]]]], {i, 1, 4!}]]], {k, 1,Length[tz]}]]
$tz$ es una clase conjugacy de $(123)$ tipo de ciclo de permutación. Filas de la tabla generada son los subconjuntos de obtener para determinados $a$ de clase conjugacy. A partir de esto, se pueden encontrar de forma heurística cómo pueden los elementos tendrán un determinado tipo de ciclo, el resto es fácil, grupos generados por los ellements siempre son cíclicos una computación de la órbita es fácil.
También aquí está el código para el cálculo de la suma especificada en la $S_n, i$ $a$
sym=GroupElements[SymmetricGroup[4]];
f[k_]:=DeleteDuplicates[Table[PermutationProduct[Take[sym, {k}][[1]],Take[sym,i}][[1]],InversePermutation[Take[sym, {k}][[1]]],InversePermutation[Take[sym,{i}][[1]]]],{i,1, 4!}]];
ab=Table[Table[Length[GroupOrbits[PermutationGroup[Take[f[k], {t}]], {1}][[1]]], {t,1,Length[f[k]]}],{k, 1, 4!}];
Map[Total, ab]
Agregue esto a ver cómo son este sumas distribuidas en clases conjugacy y observar la división en suma valor para ciertos tipos de clases conjugacy. (En el código anterior se conjugacy clase de tipo de ciclo(12) se divide entre dos valores, 11 y 15)
Ahora, si usted pone su polinomio $p$ a ser la conjugación es decir $p(x)=xa^{-1} x^{-1}$, se puede calcular fácilmente las sumas.
Para algunos $a\in S_n$ cíclico de tipo Cm sólo contamos el número de permutaciones en que clase conjugacy que han $i$ en el interior, se multiplica por la longitud de ciclo de la $a$ que contiene $i$ y suman todos esos trivial órbitas de los grupos generados por los elementos de clase conjugacy que no contengan $i$ (fix $i$). La suma sería el mismo para cualquier $i$ (fáciles de la prueba)
por lo que la suma sería:
$X(S_n,p,i)=$ ((tamaño de la clase conjugacy de $a$$S_n$)- (tamaño de la clase conjugacy de $a$$S_{n-1}$) ) *(longitud de ciclo en $a$ que contiene $i$) + (tamaño de la clase conjugacy de $a$$S_{n-1}$))
Ejemplo:
$S_6$, $i=1$ , $a=(123)(45)$ , $p(x)=xa^{-1} x^{-1}$
sym=GroupElements[SymmetricGroup[6]];
aaa=DeleteDuplicates[Table[PermutationProduct[Take[sym, {i}][[1]],InversePermutation[Cycles[{{1, 2, 3}, {4, 5}}]],InversePermutation[Take[sym, {i}][[1]]]], {i, 1, 6!}]];
Total[Table[Length[GroupOrbits[PermutationGroup[Take[aaa, {t}]], {1}][[1]]],{t,1,Length[aaa]}]]
La suma es de 280. Ahora nos fijamos en el grupo Simétrico:S6 para el tamaño de la clase conjugacy de (123)(45) tipo de ciclo: es de 120. El tamaño en $S_{n-1}$ es de 20. La longitud de ciclo que contiene a $i=1$
es 3 así:
$(120-20)*3-20 = 280$
Es el mismo valor de Mathematica nos dio.
En la final, me gustaría disculparme por no ansewring la pregunta, pero he hecho un poco de investigación, y os quería comentar. Tal vez usted puede continuar mi heurística y deducir algunas cuidada fórmula si tienes tiempo. También me dio este ejemplo para mostrar cómo las cosas se complica por la adición de un término en su grupo "polinomio" se define en el principio, así que creo que no es la simple fórmula de su suma el hecho de saber el "coeficientes". Compruebe también el Diedro grupo en lugar de Simétrica y obtendrá algunos buenos resultados (sólo 3 valores posibles para su suma). Desde mi fórmula para la suma polinomio $p(x)=xa^{-1} x^{-1}$ usted puede conseguir algunos de los límites de las sumas de $p(x)=axa^{-1} x^{-1}$.