Un posible camino para la solución.
En primer lugar, tenemos las siguientes:
Si $$u_n=\frac{a^3}{a^3-1}(a^{3n}-1)-\frac{b^3}{b^3-1}(b^{3n}-1)$$
$$v_n=\frac{a}{a-1}(a^{n}-1)-\frac{b}{b-1}(b^{n}-1)$$
entonces si $S_n$ corresponde a la expresión:
$$S_n=A^2\frac{u_n}{v_n}-3A^2$$
En la siguiente, yo uso en varios lugares que el $ab=1$ (y también a $a^3b^3=1$).
Poner $P(x)=x^2-(1+\frac{1}{a})x+\frac{1}{a})$. Tenemos
$$v_n=a^{-n}\frac{a}{a-1}P(a^n)$$
De la misma manera, si $Q(x)=x^6-x^3(1+\frac{1}{a^3})+\frac{1}{a^3}$, tenemos
$$u_n=a^{-3n}\frac{a^3}{a^3-1}Q(a^{n})$$
Ahora, las raíces de $P$$1$$\frac{1}{a}$. Como $k>2$,$a\not =1$, por lo tanto estas raíces son distincts. Se demuestra fácilmente que estas son también las raíces de $Q$. Por lo tanto $Q/P$ es un polinomio, y tenemos que exista $w_2,w_1,\cdots$ tal que
$$S_n=w_2a^{2n}+w_1 a^{n}+w_0+w_{-1}b^n+w_{-2} b^{2n}$$
Ahora este espectáculo que $S_n$ recurrentes en la secuencia, de la orden de $\leq 5$. El polinomio de la recurrencia es $U(x)=(x-1)(x-a)(x-a^2)(x-b)(x-b^2)$ (o tal vez un divisor de este polinomio, si el coeficiente de $w_0$ es cero, en este caso el factor de $(x-1)$ no aparece en la factorización ) y tiene sus coeficientes en $\mathbb{Z}$, y para mostrar que $S_n$ $\mathbb{Z}$ requieren sólo para calcular un par de primeros valores de$S_n$, es decir, $S_0,S_1,S_2,S_3,S_4$.
Pero, por supuesto, hay un montón de no tan agradable cálculos que hacer para terminar la prueba, si no hay errores anteriores.