Sustituir $2x+a$ en la segunda ecuación. Después de algunas simplificaciones, se obtiene: $$3x^2+3ax+a^2-b=0\iff 3x(x+a)=b-a^2$$ Ahora escribe $x=\dfrac pq$ en forma irreducible, $q>0$ . La ecuación es equivalente a: \begin{equation}3p(p+aq)=(b-a^2)q^2\end{equation} Desde $\gcd(p,q)=1$ Por lo tanto $\gcd(q,p+aq)=1$ , $q$ divide $3$ .
Pero es imposible que $q=3$ ya que esto implicaría $ p(p+aq)=3(b-a^2)$ y $3$ no puede dividir $p$ ni $p+3a$ .
Esto demuestra $x$ Por lo tanto $y$ es un número entero.
Prueba alternativa (por cortesía de PM 2Ring):
$q^2$ es coprimo con $p$ y $p+aq$ por lo que, según el lema de Gauß, divide a $3$ . Sin embargo, el único cuadrado que divide $3$ es $1$ de modo que $x$ es un número entero, por lo que $y$ también lo es.