Sólo algunos comentarios en el formato que mejor en una respuesta a un comentario. Ellos pueden ayudar a dar una idea de la naturaleza de una solución.
El uso de la convergents a $\sqrt 2$ es rápido para comprobar que no existen otras soluciones pequeñas ($p\lt 10^{14}$)
Si hacemos caso de la primer condición para un momento en el que nos ha $p=2n^2-1$, de modo que $$(2n^2-1)^2+1=2m^2$$
Lo que se reduce a $$4n^4-4n^2=2m^2-2$$ or$$2n^2(n+1)(n-1)=(m+1)(m-1)$$
El lado izquierdo es divisible por $8$. Tomando nota de que el máximo factor común de $m+1$ $m-1$ debe dividir su diferencia $2$, $m+1$ o $m-1$ debe ser divisible por $4$. Si $n$ es impar, este es reemplazado por $8$.
El lado izquierdo es también divisible por 3, así que o $m+1$ o $m-1$ es divsible por $6$ (ambos inclusive).
Esta forma de la ecuación sugiere que puede haber otras limitaciones que están exigiendo a cumplir.
Tenga en cuenta también que $m$ debe ser impar, de modo que el lado derecho es ocho veces un triángulo, mientras que el lado izquierdo es $8$ veces el producto de dos sucesivas triángulo de números, es decir, con $m=2r+1$ podemos cancelar un factor de $8$ obtener $$\frac{n(n+1)}2\cdot\frac {n(n-1)}2=\frac{r(r+1)}2$$