La única condición requerida es $H\leq K$.
Supongamos que $H\leq K$, entonces establecemos $M:=N\cap K$. Entonces:
- Como $G=NH$, cada elemento $k\in K$ tiene la forma $k=nh$ para algunos $n\in N$, $h\in H$. Como $H\leq K$, $n=kh^{-1}\in K$, y así $n\in K\cap N$. Por lo tanto, $K=MH$.
- Como $M\leq N$, tenemos $M\cap H=1$.
- Como $N\lhd G$, tenemos $M\lhd K$.
Por lo tanto, tenemos las tres condiciones para un producto semidirecto, por lo que podemos concluir que $K=M\rtimes H$.
(Aquí hay una advertencia: estamos hablando de un subgrupo fijo $H\leq G$, por lo que $K$ puede contener una copia isomórfica de $H$ pero no dividirse de esta manera. Por ejemplo, consideremos $\mathbb{Z}_2\times\mathbb{Z}_4=H\times N$. Tomando $K$ como $N=\mathbb{Z}_4$, esto contiene una copia isomórfica de $H=\mathbb{Z}_2$, pero no se divide como un producto (semi-)directo).
La pregunta también pregunta si necesariamente tenemos $N=M\times Z$ para algún subgrupo central $Z$ de $G$. Esto no es necesariamente el caso. Por ejemplo, supongamos que se nos da un producto semidirecto $P\rtimes H$ con $P$ no abeliano, entonces podemos formar el producto semidirecto $(P\times P)\rtimes H$ con $P$ no abeliano, donde $(p_1, p_2)^h=(p_1^h, p_2^h)$ (es decir, extendemos la acción de $H$ en $P$ a $P\times P$ de la manera natural). Luego, usando la notación de la pregunta, tomemos $N=P\times P$ y dejemos $K=(1\times P)\rtimes H$. Entonces $M=N\cap (P\times P)=1\times P$ no es central en $G$. Estoy seguro de que construcciones similares pueden producir ejemplos de $M$ y $N$ con incluso menos "conmutatividad".