La solución general de
$$m^2 = \frac{1}{12}(2n^6+6n^5+5n^4−n^2)$$
es
$$m = \frac{n(n+1)}{2} y, \quad n = (x-1)/2$$
donde
$$x+\sqrt{6} y = (3+\sqrt{6}) (5+2 \sqrt{6})^k$$
para algunos entero $k$. Aquí están los primeros valores
$$\begin{array}{|r|l|l|l|l|}
\hline
k& x & y & n & m\\
\hline
0& 3& 1& 1& 1 \\
1& 27& 11& 13& 1001\\
2& 267& 109& 133& 971299 \\
3& 2643& 1079& 1321& 942162299 \\
4& 26163& 10681& 13081& 913896491101\\
\hline
\end{array}$$
Los valores de $x$, $y$ obedecer las recursiones
$$x_{k+1} =10 x_k - x_{k-1}$$
$$y_{k+1} =10 y_k - y_{k-1}$$
Hay más complicada recursiones para $n$ y $m$, pero yo no trabajo con ellos.
Como varias respuestas, ya lo ha hecho, inicie por factorización
$$m^2 = \frac{1}{12}(2n^6+6n^5+5n^4−n^2) = \frac{1}{3} \left( \frac{n(n+1)}{2} \right)^2 (2n^2+2n-1)$$
Así
$$2n^2 + 2n -1 = 3 y^2$$
donde $ $ y = m \left( \frac{n(n+1)}{2} \right)^{-1}$.
Completando el cuadrado:
$$(2n+1)^2 - 3 = 6 y^2.$$
Así que queremos resolver
$$x^2-6 y^2 = 3$$
con $x$ impar.
Esta es una Pell como ecuación. La mejor manera de pensar acerca de las ecuaciones de Pell es pensar en el anillo de $\mathbb{Z}[\sqrt{6}]$. Para un elemento de $a+b \sqrt{6}$ en este anillo, la norma $N(a+b \sqrt{6})$ es $a^2-6 b^2$. La norma es multiplicativo, lo que significa que $N((a_1 + b_1 \sqrt{6}) (a_2 + b_2 \sqrt{6})) = N(a_1+b_1\sqrt{6}) N(a_2 + b_2 \sqrt{6})$. Queremos encontrar elementos $x+y\sqrt{6}$ con $N(x+y\sqrt{6})=3$.
Note que $N(5+2 \sqrt{6}) = 1$, por lo tanto, si $N(x+y \sqrt{6})=3$, entonces $N((x+y \sqrt{6}) (5+2 \sqrt{6})^k)=3$ para cualquier entero $k$. Vamos a acabar mostrando que todas las soluciones a $N(x+y\sqrt{6})=3$ son de la forma $x+y \sqrt{6} = \pm (3+\sqrt{6})(5+2 \sqrt{6})^k$.
En general, por $D>0$ rectangulares, siempre hay algo de $(u_0,v_0)$ (la solución fundamental de la ecuación de Pell), de modo que todas las soluciones a $N(u+v \sqrt{D})=1$ son de la forma $u+v \sqrt{D} = \pm (u_0 + v_0 \sqrt{D})^n$. En nuestro entorno, $(u_0, v_0) = (2,5)$. Para cualquier $K$, hay un número finito de pares $(x_1, y_1)$, $(x_2, y_2)$, ..., $(x_r,y_r)$ tal que todas las soluciones a $N(x+y \sqrt{D})=K$ son de la forma $x+y \sqrt{D} = (x_i+y_i \sqrt{D}) (u_0+v_0 \sqrt{D})^k$ $i$ y $k$.
Queremos mostrar que, en nuestro caso, $r=1$ y podemos tomar $(x_1,y_1) = (3,1)$.
La fuerza bruta de enfoque: Dejar $(x,y)$ ser una solución a $N(x+y \sqrt{6}) = 3$ con $x$ y $y>0$. Encontrar un entero no negativo de $k$ que
$$(5+2 \sqrt{6})^k < x+y \sqrt{6} < (5+2 \sqrt{6})^{k+1}.$$
Esto siempre es posible, ya que $\lim_{k \to \infty} (5+2 \sqrt{6})^k=\infty$.
Note que $(5+2 \sqrt{6})^{-1} = 5-2 \sqrt{6}$. De modo que los coeficientes de $(x+y \sqrt{6})(5+2 \sqrt{6})^{-k}$ son números enteros; llamar $x_0$ y $y_0$. Así
$$1 < x_0+y_0 \sqrt{6} < 5+2 \sqrt{6} \ \mbox{y} \ N(x_0+y_0 \sqrt{6})=3$$
Además, hemos
$$x_0-y_0 \sqrt{6} = 3/(x_0+y_0 \sqrt{6})$$
así
$$3/(5+2 \sqrt{6}) < x_0-y_0 \sqrt{6} < 3.$$
Añadir estos juntos
$$\frac{1}{2} \left( 1+\frac{3}{5+2 \sqrt{6}} \right) < x_0 < \frac{1}{2} \left( (5+2 \sqrt{6})+3 \right)$$
o
$$0.6 < x_0 < 5.9.$$
Tratando de $x_0 = 1$, $2$, $3$, $4$, $5$, no tardamos en descubrir que la única posibilidad es de $x_0=3$, $y_0=1$. Por lo que $x+y \sqrt{6} = (3+\sqrt{6})(5+2 \sqrt{6})^k$.
Slick solución Deje de $I$ a ser el ideal generado por $x+y \sqrt{6}$ en el anillo de $\mathbb{Z}[\sqrt{6}]$. Entonces $\mathbb{Z}[\sqrt{6}]/I$ ha pedido $3$, por lo que $I$ es un alojamiento ideal con $(3)$. El primer $3$ ramifies en $\mathbb{Z}[\sqrt{6}]$ así que no es sólo uno de esos prime. Claramente, $(3+\sqrt{6})$ es un número primo, por lo que cualquier otra solución a $N(x+y \sqrt{6})=3$ debe ser tal que los ideales de $(x+y \sqrt{6})$ y $(3+\sqrt{6})$ son iguales. Por lo que $x+y \sqrt{6} = (3+\sqrt{6})*\mbox{unidad}$, y las unidades de este anillo es de $\pm (5+2\sqrt{6})^k$.
Donde las recursiones provienen de: Vamos a $u = 5+2 \sqrt{6}$. El minimial polinomio de $u$ es $u^2-10u+1=0$. Por lo que $u^{k+1} = 10 u^k -u^{k-1}$, lo que implica que $(5+2 \sqrt{6})u^{k+1} = 10(5+2 \sqrt{6})u^k -(5+2 \sqrt{6})u^{k-1}$ y por tanto $(x_{k+1} + y_{k+1} \sqrt{6}) = 10(x_k + y_k \sqrt{6}) - (x_{k-1} + y_{k-1} \sqrt{6})$.