Respuesta corta: un ejemplo típico es G=SL(2,5), H = Z(G) = Z/2Z. Si G/H y H son coprimos y satisfacen la condición, el G = G/H × H es bastante insulso.
Asumo que esto te parece interesante y quieres leer sobre ello:
Sea G un grupo (finito es bueno), H un subgrupo abeliano normal de G y Q el grupo cociente.
Si σ es un automorfismo de un grupo G tal que σ(H) = H, entonces σ induce automorfismos sobre H y G/H=Q.
Si σ(h)=h para todo h en H, entonces σ(H) = H, por lo que nos interesan aquellas σ que son "invisibles" como automorfismos tanto de H como de Q.
La condición del artículo es que ningún automorfismo sea invisible, lo que debería parecer una muletilla razonable si se quiere hablar de automorfismos de G en términos de los de H y Q (aquí ayuda que H también sea característico).
¿Qué aspecto tienen los automorfismos invisibles?
Pues bien, cada elemento de G puede escribirse como un producto q*h para alguna q en Q y h en H. (q1*h1)*(q2*h2) = (q1*q2)*(h1^q2 * h2 * ζ(q1,q2)) donde ζ:Q×Q→H es una función (teórica de conjuntos) llamada 2-ciclo. Si sólo te interesan los productos semidirectos, entonces ζ(q1,q2) = 1 H puede ignorarse.
¿Qué le hace σ a q*h? Pues lleva productos a productos, y h a h, pero sólo lleva q a otro elemento del mismo coset, q*δ(q) donde δ:Q→H es otra función set-teórica. Por tanto σ(q*h) = q*h*δ(q).
Un buen ejemplo a tener en cuenta aquí son los grupos extraespeciales, como el grupo diedro de orden 8. Tienen muchos automorfismos invisibles. Por ejemplo (x,y)→(x,yz) donde x,y son los generadores principales y z=[x,y] genera el centro.
Ahora claramente no todos los δ pueden funcionar, ya que seguramente δ(q1*q2) está relacionado de alguna manera con δ(q1) y δ(q2). Efectivamente σ(q1*q2) = (q1*q2)*δ(q1*q2), pero también es igual a σ(q1)*σ(q2) = (q1*δ(q1))*(q2*δ(q2)) = (q1*q2)*( δ(q1)^q2 * δ(q1) * ζ(q1,q2) ).
Ignorando ζ por un momento, se obtiene la ecuación δ(q1*q2) = δ(q1)^q2 * δ(q2), que expresa el hecho de que δ:Q→H es un derivación del módulo Q H. No es muy difícil ver que las implicaciones son reversibles, y las derivaciones ayudan a definir los automorfismos que fijan H y Q.
No ignorar ζ no cambia mucho las cosas, ya que en lugar del subgrupo de derivadas dentro del grupo abeliano de todas las funciones de Q a H, basta con tomar un coset de este subgrupo determinado por ζ.
En cualquier caso, así que en tus productos semidirectos la condición es que no haya derivaciones no identitarias de Q a H; la única derivación debe tener δ(q)=1 H para todo q en Q.
Ahora, por supuesto, pueden existir derivaciones incluso cuando Q y H son coprimos: Tomemos G como el grupo no abeliano de orden 6, H como su subgrupo de orden 3. Entonces δ:Q→H lleva el elemento no identidad de Q a uno cualquiera de los tres elementos de H, dando tres derivaciones δ. Comprobando el grupo de automorfismos de G, es fácil ver que cada automorfismo debe llevar H a H, y debe actuar como la identidad en Q, ya que Aut(Q) = 1. De los seis automorfismos, tres actúan como inversión sobre H, por lo que no son inivisibles, pero tres deben ser invisibles, uno por cada δ.
En particular, no basta con que sean cíclicos de orden primo y coprimo. Su condición coprima, sin embargo, limita severamente la variedad de homomorfismos invisibles disponibles: todos deben ser conjugaciones por elementos de H.
Un automorfismo de G inducido por conjugación por un elemento de H debe actuar trivialmente sobre H, ya que H es abeliano. Debe actuar trivialmente sobre Q, ya que hH = 1 Q en Q. Por tanto, todo automorfismo inducido por un elemento de H es invisible.
Para que G no tenga automorfismos invisibles, H debe ser central, ya que q^h = h^-1 * q * h = q* (h^q)^-1 * h sólo es la identidad en G si h^q = h para todo q.
En otras palabras, la condición del artículo implica que H es central, por lo que se está buscando un grupo Q con un módulo trivial H cuya primera cohomología desaparezca, pero cuya segunda no. Creo que esto es bastante raro. Probablemente un ejemplo muy estándar sea un grupo perfecto Q que no sea superperfecto, y que H sea su multiplicador de Schur.
Por ejemplo, tomemos G=SL(2,5), Q = Alt(5), H = Z/2Z.