Creo que la respuesta a su pregunta es negativa. Considere por ejemplo $$M = \left(\begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array}\right), \quad N = \left(\begin{array}{cc} 0 & 1 \\ 1 & 0 \end{array}\right)$$ Supongamos que existe $$A = \left(\begin{array}{cc} a_{11} & a_{12} \\ 0 & a_{22} \end{array}\right), \quad B = \left(\begin{array}{cc} b_{11} & b_{12} \\ 0 & b_{22} \end{array}\right)$$ con $det(A) = det(B) = 1$ y tal que $$A\cdot M\cdot B^{T} = N$$ Entonces $$A\cdot B^{T} = \left(\begin{array}{cc} a_{11}b_{11}+a_{12}b_{12} & a_{12}b_{22}\\ a_{22}b_{12} & a_{22}b_{22} \end{array}\right) = \left(\begin{array}{cc} 0 & 1\\ 1 & 0 \end{array}\right)$$ y por lo tanto $a_{22} = 0$ o $b_{22}=0$ que contradicen $det(A) = det(B) = 1$ .
De forma más general, su acción estabiliza el lugar de las matrices de la forma $\left(\begin{array}{cc} m_{11} & m_{12}\\ m_{21} & 0 \end{array}\right)$ .