Todavía no tengo suficientes puntos de reputación para comentar pero aquí hay otra iteración relacionada. Geométricamente la desigualdad dice que usando la matriz $U$ para transformar $A$ desplaza la hiperelipse asociada a $A$ más lejos de la hiperelipse asociada a $B$ . Esto tiene que ver con los ángulos entre los vectores propios de $A$ , $U^*AU$ y $B$ .
Si diagonalizamos $A=V_A\Lambda_AV_A^*$ y $B=V_B\Lambda_BV_B^*,$ entonces $$AUB=V_A\Lambda_A V_A^*UV_B\Lambda_B V_B^*$$ . Tomando una transformación de similitud con $V_A\Lambda_A$ y dejar que $\Theta_2=V_A^*UV_B$ y $\Theta_1=V_A^*V_B$ denotan las matrices cuyas entradas tienen la información relativa a los ángulos entre los vectores propios de $A$ , $U^*AU$ y $B$ entonces tenemos $$H_1=\Theta_2\Lambda_B \Theta_1^*\Lambda_A^{-1} $$ que es una matriz hermitiana. Tenemos $$ H_1\Lambda_A\Theta_1=\Theta_2\Lambda_B$$ En la siguiente iteración tendríamos $$ H_2\Lambda_A\Theta_2=\Theta_3\Lambda_B$$ Eliminación de $\Theta_3$ tenemos $$ H_2^2=\Lambda_A^{-1}\Theta_2\Lambda_B^2\Theta_2^*\Lambda_A^{-1},$$ y ahora eliminando $\Lambda_B$ y $\Theta_2$ y tomando una raíz cuadrada, $$H_2=(\Lambda_A^{-1}H_1\Lambda_A^2H_1\Lambda_A^{-1})^{1/2}.$$ $\Lambda_B$ está ausente en esta iteración aunque se puede recuperar. Parece que la norma 2 de la $H_i$ está aumentando y que $H_i$ debe converger a $\Lambda_B\Lambda_A^{-1}$ donde los valores propios de $A$ están en orden ascendente y los valores propios de $B$ están en orden descendente.