El problema general es: dejemos $A\in M_{m,m},B\in M_{n,n}$ . ¿Existen $X\in M_{m,n},Y\in M_{n,m}$ s.t. $XY=A,YX=B$ ? La condición NS viene dada por un resultado debido a Flanders; véase, por ejemplo, el documento de libre acceso
https://www.sciencedirect.com/science/article/pii/0024379568900475
Consideramos el caso (genérico) cuando $m\geq n$ y $B$ es genérico (entonces sus valores propios $(\lambda_i)$ son distintos y no nulos y $B$ es invertible diagonalizable); por tanto, NECESARIAMENTE, $spectrum(A)=\{spectrum(B),0_{m-n}\}$ y el valor propio $0$ de $A$ es semi-simple; entonces $A=PDP^{-1},B=Q\Delta Q^{-1}$ donde $D,\Delta$ son diagonales.
Dejemos que $X'=P^{-1}XQ,Y'=Q^{-1}YP$ Entonces $X'Y'=D,Y'X'=\Delta$ y podemos suponer que $A=diag(0_{m-n},(\lambda_i)_i),B=diag((\lambda_i)_i)$ . Necesariamente $rank(X)=rank(Y)=n$ y $X,Y$ son de la forma $X=\begin{pmatrix}0\\U\end{pmatrix},Y=\begin{pmatrix}0&V\end{pmatrix}$ donde el $n\times n$ matrices invertibles $U,V$ satisfacer $UV=VU=diag((\lambda_i)_i)$ . Finalmente $U,V$ son matrices diagonales $U=diag(u_i),V=diag(v_i)$ s.t. $u_iv_i=\lambda_i$ .
Tenga en cuenta que $U$ depende de $n$ parámetros y, a grandes rasgos, el conjunto de soluciones en $U$ es casi un espacio vectorial; por lo tanto, el conjunto de soluciones en $X$ también. Claramente, $X$ es una solución de la ecuación lineal $(*)$ $AX=XB$ se puede ver que el conjunto de soluciones de la ecuación $(*)$ es un espacio vectorial de dimensión $n$ . Entonces es inútil diagonalizar $A,B$ basta con encontrar las soluciones de rango $n$ de $(*)$ En un segundo paso, el sistema lineal en $Y$ : $XY=A,YX=B$ tiene una solución única.