No es una respuesta completa, pero un comienzo prometedor. Acaba de reformular el problema utilizando las recurrencias.
Vamos
$$
A_k = \begin{pmatrix}
x^{-2k} & -x^{2k+1}\\1 & 0
\end{pmatrix}\\
B = A_0 A_1 \cdots A_{n-1}.
$$
Me voy a encontrar los autovalores de a $B$, lo $\operatorname{tr} B = \lambda_1 + \lambda_2$.
Considere la posibilidad de una secuencia $u_0, u_1, \dots$ y una secuencia relacionada
$$
F_k = \begin{pmatrix}u_k \\ u_{k+1}\end{pmatrix}.
$$
Tenga en cuenta que
$$
F_k = A_k F_{k+1}
$$
es equivalente a
$$
u_k = x^{-2k} u_{k+1} - x^{2k+1} u_{k+2}\\
u_{k+1} = u_{k+1}.
$$
Si $F_n$ es un autovector de a $B$
$$
\lambda F_n = B F_n = A_0 A_1 \cdots A_{n-1} F_n = \\
= A_0 A_1 \cdots A_{n-2} F_{n-1} = \cdots = A_0 F_1 = F_0
$$
o
$$
\lambda u_n = u_0\\
\lambda u_{n+1} = u_1.
$$
La eliminación de $\lambda$ uno adquiere la condición necesaria
$$
\frac{u_n}{u_{n+1}} = \frac{u_0}{u_1}.
$$
Deje $\beta_k = \frac{u_k}{u_{k+1}}$. A continuación, la condición se convierte en
$$
\beta_n = \beta_0
$$
si $F_n$ es el autovector. Ya tenemos la ecuación de recurrencia para $u_k$, vamos a calcular para $\beta_k$ (dividiendo por $u_{k+1}$):
$$
u_k = x^{-2k} u_{k+1} - x^{2k+1} u_{k+2}\\
\beta_k = x^{-2k} - \frac{x^{2k+1}}{\beta_{k+1}}.
$$
La introducción de nuevos $\gamma_k = (-x)^{-k}\beta_k,\; \omega \equiv -x^{-3} = x^{n-3}$,
$$
\gamma_k = \omega^k + \frac{1}{\gamma_{k+1}} \tag1.
$$
Si $\beta_0 = \beta_n$
$$
\gamma_0 = \beta_0 = \beta_n = (-1)^n x^n \gamma_n = (-1)^{n+1} \gamma_n\\
\gamma_0 = \gamma_{2n}.
$$
La condición de $\gamma_0 = \gamma_{2n}$ junto con la recurrencia de la relación $(1)$ da una ecuación cuadrática para los dos posibles valores de $\gamma_0, \gamma_0'$, cada una correspondiente a un autovalor $\lambda, \lambda'$ de la matriz $B$. Los autovalores $\lambda, \lambda'$ están relacionadas con $\gamma_k, \gamma_k'$ siguiente
$$
\lambda = \frac{u_0}{u_n} = \prod_{k=0}^{n-1} \frac{u_k}{u_{k+1}}
= \prod_{k=0}^{n-1} \beta_k
= \prod_{k=0}^{n-1} (-x)^k \gamma_k
= (-x)^{n(n-1)/2}\prod_{k=0}^{n-1} \gamma_k
$$
