He estado pensando en esta cuestión durante bastante tiempo, pero ahora este pregunta de Denis Serre revivió algunas esperanzas.
Pregunta. Dejemos que $x,y$ sean matrices invertibles (por ejemplo, sobre $\mathbb C$ ) y $[x,y,y]=x$ donde $[a,b]=a^{-1}b^{-1}ab$ , $[a,b,c]=[[a,b],c]$ . ¿Se deduce que algún poder de $x$ es unipotente?
La motivación es ésta. Consideremos el grupo de un relator $\langle x,y \mid [x,y,y]=x\rangle$ . Es hiperbólico (demostrado por A. Minasyan) y residualmente finito (que se demuestra en mi trabajo con A. Borisov). Si la respuesta a la pregunta anterior es "sí", entonces ese grupo sería no lineal, lo que proporcionaría un ejemplo explícito de grupo hiperbólico no lineal.
Actualización 1. Puede $x$ en la anterior sea una matriz diagonal y no una raíz de 1?
Actualización 2. El grupo es residualmente finito, por lo que tiene muchas representaciones por matrices tales que $x, y$ tienen órdenes finitos (de ahí que sus potencias sean unipotentes).
Actualización 3. El grupo tiene presentación como una extensión HNN ascendente del grupo libre: $\langle a,b,t \mid a^t=ab, b^t=ba\rangle$ . Por tanto, está relacionado con el mapa de Morse-Thue. Las propiedades de ese mapa pueden tener algo que ver con la pregunta. Ver dos cuasi-motivaciones de la pregunta como mis comentarios .
0 votos
¿Existen grupos de un solo relator que se sepa que no son lineales?
2 votos
@Lukasz: Sí, incluso los hay no residualmente finitos: $BS(2,3)=\langle x,y \mid y^{-1}x^2y=x^3\rangle$ . También existen grupos 1-relacionados residualmente finitos que no son lineales. Estos fueron construidos en nuestro trabajo con Cornelia Drutu (en J. Algebra). La cuestión es que este grupo es hiperbólico. Existe un ejemplo de grupo hiperbólico no lineal debido a M. Kapovich (que se deduce fácilmente de la superrigidez de ciertos retículos de rango 1 y de un teorema de Gromov-Olshanskii). Pero ese ejemplo no tiene presentación explícita. Éste sería el primer ejemplo explícito.
0 votos
He aquí una de las cuasi razones por las que creo que la respuesta es positiva. Si $G=\langle x,y \mid [x,y,y]=x\rangle$ es lineal, entonces tiene una representación sobre un campo numérico, por lo tanto sobre $\mathbb{Q}$ . Por lo tanto, la secuencia de índices de subgrupos de índice finito de $G$ debe crecer polinómicamente (tomar subgrupos de congruencia). Esto implicaría que ciertos mapas polinómicos sobre campos finitos tienen muchos puntos cuasi-fijos con órbitas largas (véase nuestro trabajo con Borisov). Esto último parece imposible.
0 votos
Una observación trivial: fijar $z := [x,y]$ la condición $[x,y,y]=x$ es equivalente a la afirmación de que el par $(x,z)$ es conjugado con $(xz,zx)$ tras la conjugación por $y$ . Así que la pregunta es equivalente a la pregunta de si un par de matrices $(x,z)$ que tiene la propiedad de ser conjugada con $(xz,zx)$ es tal que todos los valores propios de $x$ (o equivalentemente, $z$ que es necesariamente conjugada con $x$ ) son raíces de la unidad. Desgraciadamente, me quedé atascado después de esta observación: la conjugación da varias identidades de traza que implican varias palabras en z,x, pero no las suficientes...
0 votos
@Terry: Sí, esta era otra cuasi-razón. Considere $G=\langle x,y\mid x^y=x^2\rangle$ . Entonces en cada representación lineal de $G$ conjugando $x$ por poderes de $y^{-1}$ producirá matrices cada vez más cercanas a 1. Así, si $x,y$ son matrices $\lim_{n\to\infty} x^{y^{-n}}=1$ . Esto significa que $x$ es un elemento unipotente "de $y$ " en la terminología de Margulis, por lo tanto $x$ es unipotente. Ahora tenemos una presentación similar $\langle x,z,y\mid x^y=xz, z^y=zx\rangle$ así que la idea era demostrar que algún poder de $x$ satisface la propiedad límite anterior.
0 votos
¿Se ha avanzado algo en esta cuestión? Si tengo tiempo puedo hacer experimentos numéricos MatLab para lo siguiente fijar "x"; tratar de encontrar numéricamente y. Es decir, minimizar | [x y y]-x|^2
0 votos
@Alexander: No hubo avances hasta ahora, cualquier información nueva estaría muy bien.
0 votos
@AlexanderChervov: Véase mi respuesta más abajo.