En algunos trabajos que he estado haciendo, me he encontrado con un problema que involucra a una familia de matrices simétricas $A_k\in\mathbb R^{n\times n}$$1\le k\le m$. El problema es que se porta muy bien cuando $A_k$ pares de viaje, pero las cosas se vuelven más difíciles si el $A_k$ están muy lejos de los desplazamientos. Lo que me gustaría hacer, entonces, es maximizar $$ \| [A,B]\|_{HS}^2,\quad\hbox{ objeto } \|\|_{HS},\|B\|_{HS}\le1 $$ donde $\|\cdot\|_{HS}$ denota Hilbert-Schmidt norma, $\|A\|_{HS}^2=\sum_{i,j}A_{ij}^2=\operatorname{tr}(A^TA)$.
He encontrado que para cualquier par máximo $(A,B)$, debemos tener $$ \operatorname{tr}ACBB-\operatorname{tr}CBAB=\lambda\operatorname{tr}CA, \quad \operatorname{tr}AACB-\operatorname{tr}ABCA=\eta\operatorname{tr}CB $$ para todos los $C\in\mathbb R^{n\times n}$, e $\lambda,\eta\ge0$ (esto es equivalente a $(A,B)$ es un máximo local). Esto es equivalente a la condición de que $$ ABB-BAB=\lambda A,\quad BAA-ABA=\eta B. $$ Pero esta condición puede ser reducido de nuevo? Realmente estoy más interesado en la búsqueda de la máxima, de encontrar lo que $A,B$ alcanzarla.