Estoy leyendo este artículo de Manjul Bhargava y Ariel Shnidman, y quiero demostrar esta afirmación, que aparece en el primer párrafo del Teorema $14$:
Salvo equivalencia de $\operatorname{SL_2}(\mathbb Z)$ y escalamiento, solo hay una forma cuadrática binaria integral que tiene un automorfismo de orden tres en $\operatorname{SL_2}(\mathbb Z)$, a saber, $Q(x,y)=x^2+xy+y^2$.
Ahora las definiciones pertinentes para entender el problema.
Considera la siguiente acción de $\operatorname{GL_2}(\mathbb Z)$ en el conjunto de formas cuadráticas binarias enteras: para $\gamma\in\operatorname{GL_2}(\mathbb Z)$ y $f(x,y)=Px^2+Qxy+Ry^2$, con $P,Q,R\in\mathbb Z$, definimos $(\gamma f)(x,y)=f\bigl((x,y)\gamma\bigr)$. Identificando cada $f$ de esta manera con el triplete $(P,Q,R)^t$, tenemos que el triplete asociado a $\gamma f$ se da por el producto matricial
$$M_{\gamma}\,\cdot\begin{bmatrix} P\\ Q\\ R\end{bmatrix},\ \text{donde}\ \ \gamma=\begin{bmatrix} A & B\\ C & D \end{bmatrix}\,\ \text{y}\ M_{\gamma}=\begin{bmatrix} A^2 & AB & B^2\\ 2AC & AD+BC & 2BD\\ C^2 & CD & D^2 \end{bmatrix}.$$
Con estas notaciones, la afirmación de los autores se puede reformular de la siguiente manera:
Supón que $f=(P,Q,R)^t$ es fijo por $\gamma\in\operatorname{GL_2}(\mathbb Z)$ de orden $3$ y $Q\ne0$. Demuestra que existen $\theta\in\operatorname{GL_2}(\mathbb Z)$ y $n\in\mathbb Z$ tal que $\theta f=(n,n,n)^t.$
He tenido un mal rato tratando de probar este hecho. Quizás mi entendimiento del problema sea incorrecto, pero honestamente no creo que sea así (completé exitosamente los detalles anteriores del artículo).
Hasta ahora mi trabajo es el siguiente: Sea $a=A+D$ la traza de $\gamma$. Dado que $\gamma^3=I$, entonces $\det\gamma=1$, por lo que el polinomio característico de $\gamma$ es $X^2-aX+1$. Ahora
$$X^3-1=(X+a)(X^2-aX+1)+(a+1)\bigl[(a-1)X-1\bigr]\,,$$
y dado que $\gamma$ también satisface $\gamma^3-I=0$, entonces al evaluar la igualdad anterior en $\gamma$ obtenemos que o bien $a=-1$ o $(a-1)\gamma=I$; pero $(a-1)\gamma=I$ implica $(a-1)^3=1$, es decir, $a=2$, y así $I=(a-1)\gamma=\gamma$, lo cual contradice el hecho de que $\gamma$ tiene orden $3$ en $\operatorname{GL_2}(\mathbb Z)$.
Por otro lado, $\gamma^{-1}$ también fija $f$, entonces denotando $(P,Q,R)^t$ por $v$ obtenemos $(M_{\gamma^{-1}}-M_\gamma)v=0$. Usando la fórmula $\gamma^{-1}=\binom{\ \ D\ \ -B}{\!\!\!-C\ \ \ \ A}$ junto con las igualdades $AD-BC=1$ y $A+D=-1$ obtenemos
$$\begin{align*} M_{\gamma^{-1}}-M_{\gamma}=&\,\begin{bmatrix} D^2 & -BD & B^2\\ -2CD & AD+BC & -2AB\\ C^2 & -AC & A^2 \end{bmatrix}-\begin{bmatrix} A^2 & AB & B^2\\ 2AC & AD+BC & 2BD\\ C^2 & CD & D^2 \end{bmatrix} \\[5mm] =&\,\begin{bmatrix} A-D & B & 0 \\ 2C & 0 & 2B\\ 0 & C & D-A \end{bmatrix}\,, \end{align*}$$
y así $v$ tiene la forma específica $v=\frac Q{A-D}(-B,A-D,C)^t$.
Ahora estoy atascado en este punto: Si $\theta=\binom{B\ \ \ 0}{D\ \ \ 1}$ entonces $M_\theta\cdot(n,n,n)^t=v$, donde $n=\frac{-Q}{B(A-D)}$ (es fácil ver a partir de las igualdades $AD-BC=1$ y $A+D=-1$ que $B(A-D)\ne0$). El problema es, por supuesto, que $n$ no necesariamente es un entero y que $\theta$ no necesariamente pertenece a $\operatorname{GL_2}(\mathbb Z)$. Cambiar $B$ por $1$ en $\theta$ no funciona, porque escalar la primera fila de $\theta$ equivale a un escalamiento cuadrático correspondiente en la primera fila de $M_\theta$, pero manteniendo el mismo escalamiento en la segunda fila de $M_\theta, por lo que la igualdad deseada no se preserva.
He probado todas las posibles matrices obtenidas de $\gamma$ sin éxito, así que cualquier ayuda es bienvenida!!!