Los valores propios son raíces del polinomio característico. Queremos encontrar la conexión entre los polinomios característicos de AB y BA. Sea $\chi_M(x)$ denota un polinomio característico $\chi_M(x) = det(x - M)$
Probemos el hecho: Para cuadrado matrices $A$ y $B$ tiene $det(AB - x) = det(BA - x) \Leftrightarrow \chi_{AB}(x) = \chi_{BA}(x)$ .
Si $det(A) \neq 0$ entonces se deduce de $det(AB - x) = det(A^{-1}A)det(AB - x) = det(A^{-1})det(AB - x)det(A) = det(BA - x)$ .
Si $det(A) = 0$ hay un número finito de tales $s \in \mathbb R$ que $\chi_A(s)=0$ porque $\chi_A(s)$ es un polinomio de grado finito. Entonces hay un número infinito de tales $s$ que $\chi_A(s) \neq 0$ . Para todos estos $s$ sabemos $\chi_{(A-s)B}(x) = \chi_{B(A-s)}(x)$ como resultado de un caso anterior. Para cada $x$ vemos dos polinomios de grado finito ( $x$ es fijo, $s$ es variable) $\chi_{(A-s)B}(x)$ y $\chi_{B(A-s)}(x)$ que son iguales en infinitos puntos. Entonces concluimos que son iguales en cada $s$ . En $s = 0$ obtenemos el resultado $\chi_{AB}(x) = \chi_{BA}(x)$ en cada $x$ .
Para matrices cuadradas, ¡hemos terminado!
Dato clave (prueba a continuación): Si $A$ es $m\times n$ , $B$ es $n\times m$ y $n \geq m$ entonces $\chi_{BA}(x) = \lambda^{n-m}\chi_{AB}(x)$ .
Considere $n\times n$ matrices $A' = \left(\dfrac{A}{0}\right)$ y $B' = (B\mid0)$ . Acabamos de poner cero filas y columnas para hacer matrices $n\times n$ .
Primero, $B'A' = BA \Rightarrow x - B'A' = x - BA \Rightarrow \chi_{B'A'}(x) = \chi_{BA}(x)$
Segundo, $A'$ y $B'$ son matrices cuadradas. Entonces debido al hecho anterior tenemos $\chi_{B'A'}(x) = \chi_{A'B'}(x)$ .
Tercero, $\chi_{A'B'}(x) = det(x - A'B') = det\begin{pmatrix}x - AB & 0 \\ 0 & \begin{matrix}x & 0 & \ldots & 0 \\ 0 & x & \ldots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \ldots & x \\\end{matrix}\end{pmatrix} = det(x - AB)x^{n - m} = x^{n-m}\chi_{AB}(x)$
Así, vemos $\chi_{BA}(x) = \chi_{B'A'}(x) = \chi_{A'B'}(x) = x^{n-m}\chi_{AB}(x)$ . Entonces vemos todos los valores propios de $AB$ son valores propios de $BA$ y otros $n-m$ los valores propios son ceros en $BA$ .