Su segunda suposición también es correcta.
Al principio, escribimos el signo de la permutación $\sigma_a$ como el producto $\prod_{1\leqslant i<j\leqslant p-1}\frac{a^j-a^i}{j-i}$ modulo $p$ . El denominador es igual a $(p-2)!(p-3)!\dots 1!$ y denotando $p=2m+1$ ( $m$ es impar) lo escribimos como $m!\prod_{j=1}^{m-1} j!(p-1-j)!=m!\prod_{j=1}^{m-1} (-1)^{j+1}=m!(-1)^{(m-1)/2}$ . Aquí $m!$ aparece, bien.
Ahora el numerador. Consideramos el polinomio $F(x)=\prod_{1\leqslant i<j\leqslant p-1} (x^j-x^i)$ módulo del polinomio ciclotómico $\Phi_{p-1}(x)$ . Podemos escribir $F(x)=h(x)\Phi_{p-1}(x)+r(x)$ para los polinomios $h,r$ con coeficientes enteros, $\deg r<\varphi(p-1)$ , y por supuesto $F(a)$ y $r(a)$ son congruentes módulo $p$ . Así que nuestro objetivo es encontrar $r$ . Para ello sustituimos el complejo raíz $\omega=e^{2\pi i/(p-1)}$ de $\Phi_{p-1}$ y obtener $r(\omega)=F(\omega)$ . $F(\omega)$ puede calcularse mediante el siguiente truco (no original, en particular se utiliza para calcular el signo de las sumas de Gauss): al principio, conocemos el argumento de $F(\omega)$ ya que conocemos el argumento $\frac\pi{2}+\frac\pi{2m}(k+j)$ de cada soporte $\omega^k-\omega^j,1\leqslant j<k\leqslant p-1$ y se resumen fácilmente en $\pi(m-1)/2$ modulo $2\pi$ . En segundo lugar, sabemos $F^2(\omega)$ . En efecto, utilizando la fórmula $$\prod_{j\ne i} (\omega^i-\omega^j)={\frac{t^{p-1}-1}{t-\omega^i}}|_{t=\omega^i}=-(p-1)\omega^{-i},$$ la sustitución se hace por la regla de L'Hôpital; obtenemos
$$ F^2(\omega)=-\prod_i\prod_{j\ne i} (\omega^i-\omega^j)=-(p-1)^{p-1}\omega^{-p(p-1)/2}=(p-1)^{p-1}. $$
Así, $r(\omega)=F(\omega)=(-1)^{(m-1)/2} (p-1)^{(p-1)/2}$ donde el signo se obtiene a partir del argumento previamente encontrado de $F(\omega)$ . Desde $\deg r<\varphi(p-1)=\deg \Phi_{p-1}$ y $\Phi_{p-1}$ es irreducible, concluimos que $r=(-1)^{(m-1)/2} (p-1)^{(p-1)/2}$ de forma idéntica y modulo $p$ obtenemos $r(a)=(-1)^{(m+1)/2}$ .
Así pues, el signo de $\sigma_a$ es $-m!$ modulo $p$ .