Cualquier respuesta a esta pregunta va a ser escasa porque se podría escribir un libro sobre estos conceptos y por qué son importantes. Así que me limitaré a hacer unas breves menciones de por qué son importantes desde un punto de vista teórico (hubo algunas excelentes menciones de la importancia histórica en los comentarios).
El concepto de subgrupos normales y de cosets está vinculado. Una de las razones para estudiarlos es que es una forma de crear nuevos grupos a partir de los antiguos. También se puede aprender sobre el grupo a partir de su estudio.
Si $H$ es un subgrupo normal de $G$ entonces los cosets izquierdos (o derechos) de $G$ formar un grupo. La multiplicación es $(aH)(bH) = (ab)H$ . Esta es una gran razón por la que los subgrupos normales son importantes.
También es cierto que los subgrupos normales surgen como núcleos de homomorfismos de grupo. Si $\varphi: G \to G'$ es un homomorfismo de grupo, entonces $\ker(\varphi)$ es un subgrupo normal de $G$ . Además, todo subgrupo normal de $G$ es el núcleo de algún homomorfismo de $G$ a otro grupo.
Los grupos de permutación son un objeto matemático fundamental. Consideremos una función biyectiva de un conjunto $X$ a sí mismo. ¿Qué hace esta función? Permuta los elementos de $X$ .
Éste es sólo un ejemplo de las permutaciones que surgen de forma muy natural en las matemáticas. Otros lugares en los que los grupos de permutaciones surgen de forma muy bella y sorprendente son la teoría de los espacios de cobertura en la topología algebraica, las acciones de grupo (que son una excelente herramienta para el estudio de los grupos), la combinatoria (las permutaciones están por todas partes aquí), y muchos más.
2 votos
Como muchas cuestiones interesantes, ésta podría abordarse tanto desde la perspectiva histórica (aplicaciones) como desde una perspectiva puramente matemática (teoría).
1 votos
La teoría de grupos comenzó más o menos cuando Galois resolvió (negativamente) el problema de encontrar fórmulas algebraicas para la ecuación general de grado $n$ . Tuvo la idea de considerar las permutaciones de las raíces (que entonces se llamaban sustituciones), demostró que éstas tenían lo que ahora se llama una estructura de grupo, y que, para que existieran tales fórmulas, este grupo debía tener ciertas propiedades que implicaban subgrupos normales, que no tenía en el caso general.