Lea el artículo de Julia Nicholson "The development and understanding of the concept of quotient group", Historia Mathematica 20 (1993), 68--88. (Si dispone de los permisos adecuados, puede leerlo en línea en http://www.sciencedirect.com/science/article/pii/S0315086083710074 .) Resumiré la historia básica.
En idea de un grupo cociente surgió en trabajos de Galois, Betti, Jordan, Dedekind, Frobenius, von Dyck y Hölder. Jordan se acercó al concepto, pero le faltaba la idea abstracta de pensarlo como un conjunto cuyos elementos son cosets y no utilizó el nombre por el que preguntas. Finalmente fue definido y nombrado por Hölder, que escribió $G|H$ en lugar de $G/H$ y lo llamó cociente de $G$ y $H$ . Así que la respuesta a la pregunta del título es "Hölder".
Jordan, en la década de 1870, casi tuvo la idea completa; introdujo la relación de congruencia $g_1 \equiv g_2 \bmod H$ cuando $H$ es un subgrupo normal de $G$ y demostró la multiplicación en clases de congruencia mod $H$ está bien definida, pero a la hora de hacer un nuevo grupo a partir de esta relación de congruencia Jordan definió la operación de grupo sobre un conjunto fijo de representantes mod $H$ . Para mí esto suena muy similar a la forma de adición mod $m$ puede describirse de forma elemental como "aritmética del reloj", utilizando una suma envolvente directamente sobre el conjunto de números $0, 1, \dots, m$ en lugar de en el conjunto de cosets mod $m$ . Jordan escribió el grupo resultante como $\frac{G}{H}$ y lo llamó le groupe suivant le module $H$ .
Hölder, casi veinte (¡!) años más tarde, en 1889, dio el paso final de considerar este nuevo grupo como un conjunto cuyos elementos son clases de equivalencia (el $H$ -cosets) en $G$ . Jordan no podía dar ese paso porque para él los elementos de un grupo eran siempre permutaciones. No tenía el lenguaje para hablar de un grupo cuyos elementos son cosets (de permutaciones). He aquí el extracto del artículo de Hölder en el que utiliza el término "cociente": Man erhält so neue Operationen, welche gleichfalls eine Gruppe bilden. Se trata de un grupo totalmente distinto, que debe ser definido en el análisis. El usuario puede ver los Cocientes de los Grupos $G$ y $H$ nennen, dieselbe soll im Folgenden mit $G|H$ bezeichnet werden. Hay un enlace al artículo en la respuesta de Bill y Hagen von Eitzen ofrece una traducción de este extracto al inglés en un comentario a esa respuesta.
Este artículo de Hölder es donde el teorema de Jordan-Hölder asumió su forma moderna, como un teorema que compara el grupos cociente en dos series de composición de un grupo finito. La versión anterior del teorema de Jordan sólo comparaba los cocientes de las pedidos de subgrupos sucesivos en dos series de composición cualesquiera. Aunque Nicholson no dice directamente por qué se eligió el nombre de "grupo cociente", me parece que fue porque los cocientes de órdenes de subgrupos eran, en el teorema de Jordan-Hölder en evolución, el precursor de los grupos cocientes. También explicaría por qué Jordan escribió estos grupos utilizando la notación de fracciones.
Los matemáticos que escribieron en los años posteriores al artículo de Hölder utilizaron la palabra que él había introducido. En un artículo de 1893, Cayley escribió $G/H$ y lo llamó cociente. Burnside utilizó el término grupo cociente en su libro Theory of Groups of Finite Order (1897), que fue el primer libro de texto sistemático en inglés sobre teoría de grupos.
En algunos otros idiomas (por ejemplo, el ruso y el alemán) utilizan el término "grupo factorial", aunque este término fue introducido por Hölder para significar algo más preciso: utilizó Factorgruppe (véase la p. 33 de su trabajo) para referirse a los grupos cocientes simples que surgen de una serie de composición. ¿Por qué llamarlos grupos factoriales? Probablemente porque estos grupos cocientes simples "descomponen" el grupo original, de ahí que sean como factores primos. Posteriormente Burnside, en su libro, trató los términos "grupo cociente" y "grupo factorial" como sinónimos de lo que nosotros llamamos grupos cocientes. Tal vez por eso los términos grupo factorial y grupo cociente acabaron usándose con el mismo significado.
También puede leer la sección 1.1 del libro de Leo Corry Modern Algebra and the Rise of Mathematical Structures, que trata de forma más general la génesis de la teoría de grupos.
4 votos
En el caso abeliano, originalmente se llamaban grupos de diferencia, y se escribían $G-A$ . El libro de Zariski y Samuel, por ejemplo, utiliza ese nombre.
0 votos
Por algunos libros que he leído, tenía la impresión de que el término grupo cociente iba unido a la notación, de forma algo intuitiva.
0 votos
Nicholson los llama "grupos de factores". Todos los demás que he conocido los han llamado "grupos cociente".
2 votos
@MarianoSuárez-Alvarez: no se llamaban "originalmente" grupos de diferencia. Holder lo llamó cociente. Quien decidió llamarlo grupo de diferencia (con notación de resta para ello) vino después.
0 votos
@Clarinetist: ya que mi respuesta de abajo se refiere a otra persona llamada Nicholson, por favor aclara quién es tu "Nicholson".
0 votos
@KCd, me refiero a W. Keith Nicholson, que utiliza ese término en su texto Intro. to Abstract Algebra.