He aquí una solución parcial. Puedo volver a esto cuando tengo tiempo...
(EDICIÓN: Daniel Fischer solución completa esta respuesta, y también proporciona la falta del caso.)
Supongamos $\frac{x(x-1)(2x-1)}{6} - x^2 = k^2$ para algunos entero $k$. Reescritura:
$$ x(x-1)(2x-1)-6x^2 = 6k^2$$
$$ x(2x^2-9x+1)=6k^2$$
Deje $y=2x^2-9x+1$, y tenga en cuenta que $gcd(x,y)=1$. Eso significa que los factores primos de a $k^2$ todos ocurrir en $x$ o en $y$. Hay tres casos dependiendo de cómo el factor de $6$ se divide entre el$x$$y$.
Caso 1: $x=a^2, y = 6b^2$ donde $k=ab$.
A continuación,$6b^2 = 2a^4 - 9a^2+1$. Desde $y$ es incluso, $a$ debe ser impar, por lo tanto, $a^2 \equiv 1$ (mod $8$), y el lado derecho es $2 - 9 + 1 \equiv 2$ (mod $8$). Si $b$ es incluso, el lado izquierdo es divisble por 8, por lo $b$ debe ser impar, en cuyo caso $6b^2 \equiv 6 \not\equiv 2 $(mod $8$). Así, este caso es con descuento.
Caso 2: $x = 2a^2, y = 3b^2$
Tenemos $ 3b^2 = 8a^4 - 18a^2 +1$. El lado derecho es impar, por lo $b$ es impar. Por lo tanto, $b^2 \equiv 1$ (mod $8$) y $3b^2 \equiv 3$ (mod $8$). Pero el lado derecho es $-2a^2+1$ (mod $8$), que es $\pm 1$ (mod $8$) dependiendo de si $a$ es par o impar. Por lo tanto, este caso es también de descuento.
Caso 3: $x = 6a^2, y = b^2$
A continuación,$b^2 = 72a^4 - 54a^2 +1$.
Me detuve aquí. El lado derecho no es una plaza para los valores de $a$$1$$50000$. En ese rango, es con frecuencia squarefree; cuando no lo es, uno de los factores primos tiene exponente 2, muy rara vez 3.
Ver Daniel Fischer respuesta para el resto.
La falta de caso fue $x=3a^2$, $y=2b^2$. He aquí una breve manera de lidiar con ello:
$2b^2 = 18a^4 - 27a^2 +1$ implica $2b^2 \equiv 1$ (mod $3$) $\Rightarrow b^2 \equiv 2$ (mod $3$), lo cual no es posible.
También, Daniel de la solución muestra $72x^2 - 54x + 1$ no es un cuadrado de cualquier entero $x>0$.