No sé si no se estabiliza, pero la rigidez proporciona muchos ejemplos que se estabilizan rápidamente.
1) Sea π el grupo fundamental de una variedad hiperbólica de volumen finito M de dimensión ≥ 3 sin simetrías (es decir, sin autoisometrías no triviales). Curvatura negativa implica que π no tiene centro, por lo que el mapa π -> Aut(π) es inyectivo. La rigidez de Mostow-Prasad dice que Out(π) = Isom(M), por lo que la falta de isometrías implica que Out(π) es trivial y Aut(π) = π. [Esto funciona textualmente para retículos en grupos de Lie semisimples de rango superior sujetos a condiciones apropiadas].
2) Sea π=F d sea un grupo libre de rango 2≤d<∞. Entonces Aut(F_n) es un grupo mucho mayor; sin embargo, Dyer-Formanek demostró que Out(Aut(F_n)) es trivial. Por lo tanto, dado que Aut(F_n) es claramente sin centro, tenemos Aut(Aut(F_n)) = Aut(F_n).
3) Interpolando entre estos dos ejemplos, si π=π 1 (S g ) es el grupo fundamental de una superficie de género g≥2, entonces Aut(π) es el llamado "grupo de clase de mapeo puntuado" Mod g, que es mucho mayor que π. Ivanov demostró que Out(Mod g, ) es trivial, y como Mod g,* es de nuevo sin centro, tenemos Aut(Aut(π 1 (S g ))) = Aut(π 1 (S g )).
En cada uno de estos casos, la rigidez proporciona de hecho afirmaciones más sólidas: Sean H y H' subgrupos de índice finito de G = Aut(F n ) o Mod g,* . (Esta clase de grupos puede ampliarse enormemente, estos son sólo algunos ejemplos). Entonces cualquier isomorfismo de H a H' proviene de la conjugación por un elemento de G, por Farb-Handel e Ivanov respectivamente. En particular, Aut(H) es el normalizador de H en G. La rigidez da la misma conclusión para H = π 1 (M) como en el primer ejemplo y G = Isom(H n ) [que es aproximadamente SO(n,1)]. Parece que controlando cuidadosamente los normalizadores, se podría utilizar esto para construir ejemplos que se estabilizan sólo después de n pasos, para n arbitrariamente grande.
Edición: Encuentro los ejemplos de D 8 y D ∞ insatisfactorio porque aunque Inn(D) es un subgrupo propio de Aut(D), seguimos teniendo Aut(D) isomorfo a D. He aquí una receta general para construir ejemplos liminales similares. Sea G un grupo infinito sin 2-torsión de modo que Aut(G) = G y H 1 (G;Z/2Z) = Z/2Z. (Editado: Por ejemplo, por rigidez, cualquier complemento de nudo hiperbólico sin isometrías tiene estas propiedades; por Thurston, la mayoría de los complementos de nudo son hiperbólicos). La condición sobre la 2-torsión implica que para cualquier automorfismo G x Z/2Z -> G x Z/2Z, la composición
G -> G x Z/2Z -> G x Z/2Z -> G
es un isomorfismo. De aquí se deduce que Aut(G x Z/2Z) / G = H 1 (G;Z/2Z) = Z/2Z. Por examen la extensión es trivial, y por tanto Aut(G x Z/2Z) = G x Z/2Z. Sin embargo, la imagen Inn(G x Z/2Z) es el subgrupo propio G.
Comentarios: mirando hacia atrás, esto se siente muy cerca de su ejemplo original de R x Z/2Z. Es interesante que (aparentemente) es mucho más difícil encontrar condiciones teóricas de grupo para forzar el comportamiento de la manera deseada, mientras que topológicamente es fácil.
Además, si en vez de G tomas H 1 (G;Z/2Z) de mayor dimensión, digamos H 1 (G;Z/2Z) = (Z/2Z) 2 Esto explota rápidamente. Se obtiene Aut(G x Z/2Z) = G x (Z/2Z) 2 pero entonces Aut(Aut(G x Z/2Z)) es el producto semidirecto de H 1 (G;Z/2Z 2 ) = (Z/2Z) 4 con Aut(G) x Aut(Z/2Z 2 ) = G x GL(2,2). Ya el siguiente paso parece muy difícil de resolver. Sin embargo, si se tuviera suficiente control sobre los cocientes finitos de G, tal vez se podría demostrar que las partes lineales de estos grupos no se "enredan" con el resto, de modo que los grupos de automorfismo actuarían como un producto de G x (Z/2Z) n con otra cosa, con n hasta el infinito. Si es así, esto podría dar lugar a un ejemplo en el que el tipos de isomorfismo de los grupos nunca se estabilizan.