No hay solución a su problema. El patrón de la prueba es familiar : se demuestra que no puede haber una solución
demasiado grande con los parámetros, y luego de un número finito de números de los casos permanecen para ser revisado
por la exhaustiva inspección.
Si una solución de la matriz existe, tiene los autovalores $a,a,\frac{1}{a^2}$
para algunos de los verdaderos $a\not\in\lbrace -1,0,1\rbrace$. Por lo que su característica
polinomio es
$$
\chi= (X-a)^2(X-\frac{1}{a^2})=
X^3-\frac{2a^3+1}{a^2}X^2+\frac{a^3+2}{a}X-1 \etiqueta{1}
$$
A continuación, $x=\frac{2a^3+1}{a^2}$ $y=\frac{a^3+2}{a}$ deben ser números enteros. La eliminación de $a$, se
deducir puramente algebraica (computación resultantes) que
$Q(x,y)=0$ donde
$$
Q(x,y)=4y^3 - x^2y^2 - 18xy + 4x^3 + 27 \etiqueta{2}
$$
Lema 1. Supongamos que $x \geq 17$. Entonces el polinomio univariado
$Q(x,.)$ tiene exactamente tres raíces reales $\rho_1 < \rho_2 < \rho_3 $ con
$\rho_i\in (\alpha_i,\beta_i)$, donde
$$
\begin{array}{lcl}
\alpha_1=-\sqrt{4x-0.99} &,& \ \beta_1=-\sqrt{4x}, \\
\alpha_2=\sqrt{4x-0.99}&,& \ \beta_2=\sqrt{4x}, \\
\alpha_3=\frac{x^2}{4}&,& \ \beta_3=\frac{x^2+0.99}{4}\\
\end{array}
$$
Corolario 2 (Lema 1). No hay ningún número entero solución de $Q(x,y)=0$$x\geq 17$.
Lema 3. Supongamos que $x \leq -8$. Entonces el polinomio univariado
$Q(x,.)$ tiene exactamente una raíz real $\rho \in (\alpha,\beta)$ donde
$\alpha=\frac{x^2-0.999}{2}$ $\beta=\frac{x^2}{2}$.
Corolario 4 (Lema 3). No hay ningún número entero solución de $Q(x,y)=0$$x\leq -8$.
Una vez que hemos corolarios 2 y 4, todo lo que queda por hacer es comprobar
los casos de $x=(-7),(-6),(-5), \ldots ,8$ uno por uno. La inspección revela
que para estos valores, $Q(x,.)$ tiene raíces racionales sólo al $x=(-1),3$ o $5$.
Para $x=5$, la raíz racional es $\frac{17}{4}$, no entera. Demasiado malo ...
La prueba del Lema 1. Si $x$$\geq 17$, el número de $|\alpha_1|$ es
$\geq \sqrt{4\times 17+0.99}\geq 8.1$, lo $a=|\alpha_1|-8.1$ es no negativa.
También, el número de $\alpha_2$$\geq \sqrt{4\times 17-0.99}\geq 8.15$, lo $b=\alpha_2-8.15$ es no negativa. También, $\beta_3 \geq \frac{17^2+0.99}{4}
\times 72$. Finally, $c=x-17$ es no negativa.
$$
\begin{array}{lclc}
Q(x,\alpha_1)&=&-\frac{99}{1600}a^4 - \frac{6019}{4000}a^3 - \frac{30213}{2500}a^2
- \frac{7117389}{200000}a - \frac{6956739}{4000000} & <0 \\
& & & \\
Q(x,\beta_1)&=&\frac{|\beta_1|^3}{2}+27 & >0 \\
& & & \\
Q(x,\alpha_2)&=& \frac{99}{1600}b^4 + \frac{12137}{8000}b^3 + \frac{4018197}{320000}b^2
+ \frac{20410041}{640000}b + \frac{12365891}{10240000} & >0 \\
& & & \\
Q(x,\beta_2)&=&-\frac{\beta_2^3}{2}+27 & <0 \\
& & & \\
Q(x,\alpha_3)&=& -\frac{x^3}{2}+27 & <0 \\
& & & \\
Q(x,\beta_3)&=& \frac{99}{1600}c^4 + \frac{1483}{400}c^3 + \frac{6553101}{80000}c^2 + \frac{31287117}{40000}c
+ \frac{43169498099}{16000000} & >0 \\
& & & \\
\end{array}
$$
El valor intermedio de la propiedad, a continuación, los rendimientos de los tres raíces de nuestro polinomio de grado tres,
y concluye la prueba del lema.
La prueba del Corolario 2. Si existe un número entero solución de $(x,y)$, $y$ debe ser uno
de $\rho_1,\rho_2,\rho_3$. Si, por ejemplo, $y=\rho_1$, $y^2-4x$ en un entero en
$(0,1)$, lo cual es imposible. Los otros casos son similares.
La prueba del Lema 3.
Si $x$$\leq -8$, el número de $d=|x|-8$ es no negativa. Entonces
$$
\begin{array}{lclc}
Q(x,\alpha)&=&-\frac{999}{16000}d^4 - \frac{749}{500}d^3 - \frac{94809999}{8000000}d^2 -
\frac{17185749}{500000}d - \frac{12580874999}{16000000000} & <0 \\
& & & \\
Q(x,\beta)&=&\frac{|x|^3}{2}+27 & >0 \\
& & & \\
\end{array}
$$
Así que tenemos una raíz $\rho\in(\alpha,\beta)$. Computación
$$\frac{P(x,y)}{y-\rho}=
4y^2+(4\rho-x^2)y+(4\rho^2-18x-\rho x^2)
$$
y el discriminante de este trinomio en $y$$x^4+8\rho x^2 + 288x - 48\rho^2 < 0$,
por lo $\rho$ es la única raíz.
La prueba del Corolario 4. Esto es similar a, y más simple que, la prueba del corolario
2.