En primer lugar, reformulamos la pregunta: Buscamos todos los primos $p$ s.t. $$p \mid (a^2b^2+b^2c^2+a^2c^2+1), a, b, c \in \mathbb{Z} \Rightarrow p \mid a^2b^2c^2(a^2+b^2+c^2+a^2b^2c^2)$$
Primero demostramos que ningún primo $p>17$ tiene esta propiedad. Entonces será una cuestión trivial comprobar los primos restantes (o consultar el comentario de Ewan Delanoy sobre la búsqueda por ordenador)
Lema 1: Podemos encontrar $a, b \in \mathbb{Z}_p^*$ tal que $$a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \not \equiv 0 \pmod{p}, a^2b^2+1 \not \equiv 0 \pmod{p}, (\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=1$$ si y sólo si $p$ no tiene la propiedad requerida.
Prueba: Supongamos que tal $a, b$ existe. Podemos entonces poner $c^2 \equiv -\frac{a^2b^2+1}{a^2+b^2} \pmod{p}$ (ya que $ a^2b^2+1 \not \equiv 0 \pmod{p}$ tenemos $c \not \equiv 0 \pmod{p}$ ), y obtenemos $$a^2b^2+b^2c^2+a^2c^2+1 \equiv a^2b^2+1+(a^2+b^2)c^2 \equiv 0 \pmod{p}$$
ahora $a, b, c \not \equiv 0 \pmod{p}$ así que $p \nmid a^2b^2c^2$ . También desde $a^2, b^2 \not \equiv \pm 1 \pmod{p}$ tenemos $(a^2 \pm 1)(b^2 \pm 1) \not \equiv 0 \pmod{p}$ así que $c^2 \equiv -\frac{a^2b^2+1}{a^2+b^2} \not \equiv \pm 1 \pmod{p}$ . Así,
\begin{align} a^2+b^2+c^2+a^2b^2c^2 & \equiv c^2(a^2b^2+b^2c^2+a^2c^2+1)+(a^2+b^2)(1-c^4) \\ & \equiv (a^2+b^2)(1-c^4) \\ & \not \equiv 0\pmod{p} \end{align}
Por lo tanto, $p$ no tiene la propiedad requerida.
Supongamos ahora que $p$ no tiene la propiedad requerida. Entonces existe $a, b, c$ tal que $p \mid (a^2b^2+b^2c^2+a^2c^2+1)$ y $p \nmid a^2b^2c^2(a^2+b^2+c^2+a^2b^2c^2)$ . Entonces debemos tener $a, b \not \equiv 0 \pmod{p}$ así que $a, b \in \mathbb{Z}_p^*$ . Si $a^2 \equiv \pm 1 \pmod p$ entonces
\begin{align} a^2+b^2+c^2+a^2b^2c^2 & \equiv a^2+a^4b^2+a^4c^2+a^2b^2c^2 \\ & \equiv a^2(1+a^2b^2+a^2c^2+b^2c^2) \\ & \equiv 0 \pmod{p} \end{align}
, una contradicción, por lo que $a^2 \not \equiv \pm 1 \pmod{p}$ . Del mismo modo, $b^2 \not \equiv \pm 1 \pmod{p}$ .
Tenga en cuenta que $a^2b^2+1 \equiv c^2(a^2+b^2) \pmod{p}$ y $c \not \equiv 0 \pmod{p}$ así que $a^2b^2+1 \equiv 0 \pmod{p} \Leftrightarrow a^2+b^2 \equiv 0 \pmod{p}$ . Si cualquiera de los dos es $0 \pmod{p}$ , entonces ambos lo son, así que $a^2+b^2+c^2+a^2b^2c^2 \equiv (a^2+b^2)+(a^2b^2+1)c^2 \equiv 0 \pmod{p}$ una contradicción. Por lo tanto, $a^2+b^2 \not \equiv 0 \pmod{p}, a^2b^2+1 \not \equiv 0 \pmod{p}$ .
Finalmente tenemos $c^2 \equiv (a^2b^2+1)(a^2+b^2)$ tan claramente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=1$ . De este modo, hemos demostrado el lema 1.
Procedemos. Considere $p>17$ . Supongamos, por el contrario, que $p$ tiene las propiedades requeridas.
Caso 1: $(\frac{-1}{p})=1$ .
Si $(\frac{3}{p})=1$ , toma $a^2 \equiv 4 \pmod{p}, b^2 \equiv 12 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 16 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 49 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{49}{16}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{3}{p})=-1$ .
Si $(\frac{7}{p})=1$ , toma $a^2 \equiv 7 \pmod{p}, b^2 \equiv 9 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 16 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 64 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{64}{16}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{7}{p})=-1$ .
Si $(\frac{5}{p})=1$ , toma $a^2 \equiv 4 \pmod{p}, b^2 \equiv 5 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 9 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 21 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{7}{3}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{5}{p})=-1$ .
Si $(\frac{2}{p})=-1$ entonces $(\frac{6}{p})=1$ así que toma $a^2 \equiv 4 \pmod{p}, b^2 \equiv 6 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 10 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 25 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{5}{2}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{2}{p})=1$ .
Si $(\frac{17}{p})=1$ , toma $a^2 \equiv 4 \pmod{p}, b^2 \equiv 4 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 8 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 17 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{17}{8}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{17}{p})=-1$ . Ahora toma $a^2 \equiv 2 \pmod{p}, b^2 \equiv 8 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 10 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 17 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{17}{10}}{p})=1$ así que $p$ no tiene la propiedad requerida.
Caso 2: $(\frac{-1}{p})=-1$ . Entonces $p \not =37$ .
Caso 2a: $(\frac{2}{p})=-1$ .
Caso 2a i): $(\frac{3}{p})=1$ .
Si $(\frac{5}{p})=-1$ , toma $a^2 \equiv 3 \pmod{p}, b^2 \equiv 3 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 6 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 10 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{5}{3}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{5}{p})=1$ . Tome $a^2 \equiv 3 \pmod{p}, b^2 \equiv 5 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 8 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 16 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{16}{8}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Caso 2a ii): $(\frac{3}{p})=-1$ .
Si $(\frac{37}{p})=1$ , toma $a^2 \equiv 6 \pmod{p}, b^2 \equiv 6 \pmod{p}$ . Tenga en cuenta que, dado que $p>17, p \not =37$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 12 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 37 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{37}{12}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{37}{p})=-1$ .
Si $(\frac{13}{p})=-1$ , toma $a^2 \equiv 4 \pmod{p}, b^2 \equiv 16 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 20 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 65 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{13}{4}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{13}{p})=1$ . Tome $a^2 \equiv 4 \pmod{p}, b^2 \equiv 9 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 13 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 37 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{37}{13}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Caso 2b: $(\frac{2}{p})=1$ .
Si $(\frac{3}{p})=-1$ , toma $a^2 \equiv 2 \pmod{p}, b^2 \equiv 4 \pmod{p}$ . Tenga en cuenta que, dado que $p>17$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \equiv 6 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv 9 \not \equiv 0 \pmod{p}$ . Finalmente $(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{3}{2}}{p})=1$ así que $p$ no tiene la propiedad requerida, una contradicción.
Así, $(\frac{3}{p})=1$ .
Procedemos por inducción fuerte en $n$ para demostrar que $(\frac{n}{p})=1 \, \forall n \in \{1, 2, \ldots, \frac{p-1}{2} \}$ .
Cuando $n=1, 2, 3, 4$ La afirmación es claramente cierta.
Supongamos que la afirmación es válida para $4 \leq n=k<\frac{p-1}{2}$ .
Si $k+1$ es compuesto, escriba $k+1=cd$ donde $1<c,d \leq k$ . Entonces, por la hipótesis de inducción $(\frac{c}{p})=(\frac{d}{p})=1$ Así que $(\frac{k}{p})=(\frac{c}{p})(\frac{d}{p})=1$ .
Si $k+1$ es primo, entonces $k$ es compuesto, así que escribe $k=st$ donde $1<s,t \leq k$ y tomar $a^2 \equiv s \pmod{p}, b^2 \equiv t \pmod{p}$ . Tenga en cuenta que, dado que $1<s, t, s+t<p-1$ , $a^2, b^2 \not \equiv \pm 1 \pmod{p}, a^2+b^2 \not \equiv 0 \pmod{p}, a^2b^2+1 \equiv k+1 \not \equiv 0 \pmod{p}$ . También $s+t \leq st=k$ por lo que por la hipótesis de inducción $(\frac{s+t}{p})=1$ . Finalmente desde $p$ satisface la propiedad requerida, $-1=(\frac{-\frac{a^2b^2+1}{a^2+b^2}}{p})=(\frac{-\frac{k+1}{s+t}}{p})=-(\frac{k+1}{p})$ Así que $(\frac{k+1}{p})=1$
De este modo, se hace por inducción.
Por lo tanto, $(\frac{n}{p})=1 \, \forall n \in \{1, 2, \ldots, \frac{p-1}{2} \}$ . Así, $(\frac{-1}{p})=(\frac{p-1}{p})=(\frac{\frac{p-1}{2}}{p})(\frac{2}{p})=1(1)=1$ una contradicción.
Así, hemos demostrado que si $p>17$ entonces $p$ no satisface la propiedad requerida. Queda por comprobar $p \leq 17$ y esto es una cuestión relativamente trivial, que se puede hacer fácilmente mediante una comprobación informática, o si se quiere, enumerando los casos con la ayuda del Lemma 1.