Consideramos las ecuaciones (1) $A^2+B^2=AB$, (2) $A^2+B^2=2AB$. Un par de $(A,B)$, solución de (2), es simultáneamente triangularizable, y, por otra parte, cuando $n=2$, $AB=BA$.
Equ (1) no se ha la segunda propiedad: de hecho, $A=\begin{pmatrix}0&-1\\1&-1\end{pmatrix},B=\begin{pmatrix}\dfrac{1-i\sqrt{3}}{2}&0\\\dfrac{3+i\sqrt{3}}{2}&-1\end{pmatrix}$ es una solución s.t. $AB\not= BA$. Tenga en cuenta que$spectrum(A)=\{e^{\pm 2i\pi/3}\}$$A^3=I_2,B^3=-I_2$; por otra parte $(AB-BA)^2=0$. Creo que Equ (1) tiene la primera propiedad, o al menos, $AB-BA$ es nilpotent, pero no sé cómo demostrarlo. Vamos a ver, en el siguiente, que, de una solución, en posición general, satisface $AB=BA$.
La proposición. Consideramos la ecuación en el desconocido $X$: $X^2-AX+A^2=0$. Deje $spectrum(A)=(\lambda_i)_i$ denotar el espectro completo de la $A$. Si, para cada $i\not= j$ $\lambda_i^3\not=\lambda_j^3$, entonces cualquier solución de $X$ satisface $AX=XA$.
Prueba. Desde $A$ es diagonalizable asumimos $A=diag(\lambda_i)$. Por lo tanto $A^3=diag(\lambda_i^3)$ tiene distintos valores propios; desde $X$ $A^3$ viaje, $X$ es una matriz diagonal y hemos terminado.
EDIT. a @ user35603 . Hay soluciones de $A^3+B^3=0$ s.t. $AB-BA$ es invertible, por ejemplo, elige $A=\begin{pmatrix}0&1&0\\0&0&1\\0&0&0\end{pmatrix},B=\begin{pmatrix}0&0&0\\1&0&0\\0&-1&0\end{pmatrix}$; de curso $A^2+B^2\not= AB$.