EDITAR Ahora veo que sólo querías una pista. Aquí tienes una pista: Usando tu idea en el primer caso, demuestra que $|H|$ debe dividir $|K|/|\pi(K)|$ y que $|K|/|\pi(K)| = |H\cap K|\leq |H|$ . Demuestra que esto implica que la desigualdad es en realidad una igualdad y concluye lo que quieras a partir de ahí.
Siga leyendo sólo si quiere que se le estropee todo. (Lo escribí todo antes de darme cuenta de que sólo querías una pista, y en el caso de que alguien quiera la respuesta completa, creo que es mejor dejarlo en este punto).
Usando tu idea del primer caso: Si $H$ es normal, entonces podemos considerar $\pi(K)$ en $G/H$ . Como en su primer caso, nos enteramos de que $|\pi(K)|$ divide $|G|/|H|$ . Reordenando lo que significa dividir, obtenemos que $|H|$ divide $|G|/|\pi(K)| = |G|/|K| * |K|/|\pi(K)|$ . Desde $H$ y $|G|/|K|$ son relativamente primos, debe ser el caso que $|H|$ divide $|K|/|\pi(K)|$ .
A continuación, afirmo que $|K|/|\pi(K)| = |\ker\pi \cap K|$ . Para ver esto, de una vez por todas elegir representantes $k_1,...,k_n$ para cada elemento de $\pi(K)$ y definir una función $f: (\ker\pi\cap K)\times \pi(K)$ por $f(k, \pi(k_i)) = kk_i$ .
Esta función es 1-1 ya que si $kk_i = k'k_j$ entonces $k_ik_j^{-1} = k'k^{-1}\in\ker\pi$ así que $\pi(k_i) = \pi(k_j)$ lo que implica $i=j$ por nuestra elección de representantes. Entonces, esto implica fácilmente $k = k'$ .
Para ver su funcionamiento, dejemos que $g\in K$ . Sea $k_i$ sea el representante que elegimos para $\pi(k)$ y establecer $k = gk_i^{-1}$ . Entonces $k\in \ker\pi\cap K$ y claramente $kk_i = g$ . Así, $f$ es una biyección entre los dos conjuntos, estableciendo la afirmación. (Esto debe ser alguna forma del teorema del estabilizador de la órbita, pero no he podido encontrar la forma correcta de aplicarlo).
Si juntamos todo esto, sabemos que $|H|$ divide $|\ker\pi \cap K|$ . Pero $\ker \pi = H$ así que $|\ker\pi\cap K| \leq |H|$ . Por lo tanto, debemos tener que $|H|=|\ker\pi\cap K| = |\ker \pi|$ lo que implica que $H = \ker \pi\subseteq K$ .
