Tienes razón, la respuesta es no, pero tiene poco que ver con residuos cuadráticos.
En primer lugar observamos que si un conjunto $S$ es invariante bajo la traducción en $\mathbb{F}_p$, esto significa que cualquiera de las $S$ está vacía o $S$ es el total $\mathbb{F}_p$. En nuestro caso $S$ es claramente no vacía como $0$ $1$ siempre son residuos cuadráticos.
Si $a \in S$, entonces claramente $\{a + \delta,\ a+2\delta,\ a+3\delta,\ \dots\} \subseteq S$, ya que el $S$ es invariante bajo la traducción por $\delta$, pero tenga en cuenta que para cualquier $\delta \in \mathbb{F}_p \setminus \{0\}$ el subgrupo generado por a $\delta$ debe ser de toda la $\mathbb{F}_p$, ya que la orden de un subgrupo se divide el orden de $\mathbb{F}_p$$p$.
Por lo $\{\delta,\ 2\delta,\ 3\delta,\ \dots\} = \mathbb{F}_p \Longrightarrow \{a+\delta,\ a+2\delta,\ a+3\delta,\ \dots\} = \mathbb{F}_p \Longrightarrow S \supseteq \mathbb{F}_p \Longrightarrow S = \mathbb{F}_p$
Pero cuadrática de los residuos no puede ser el todo $\mathbb{F}_p$ desde $a^2 \equiv (p-a)^2$ límites de su número suficiente para $p \geq 3$ ($-1 \neq\ 1$, pero $(-1)^2 \equiv 1^2$). Así que no hay primer y ningún cambio que puede producir el mismo conjunto de residuos cuadráticos.