GRAN EDICIÓN: Añadido el caso general, y ampliado el cálculo de la solución para $n=2$
La respuesta es sí para $n=2$ y no en general.
Si $n=3$ puede reorganizar $$A^3+3A^2B+3AB^2+B^3=(A+B)^3=A^3+A^2B+ABA+BA^2+B^2A+BAB+AB^2$$ para obtener $$(2A+B)[A,B]+[A,B](A+2B)=0 \;\;\;\; (1),$$ donde $[A,B]:=AB-BA$ teniendo en cuenta que $[A^2,B]=A[A,B]+[A,B]A$ .
Obsérvese que la ecuación (1), a través de $B':=2A+B$ , $A':=A+2B$ ya que $[A,B']=[A,2A+B]=[A,B]$ es equivalente a $$B'[A,B']+[A,B']A'=0,$$ y puesto que $[A',B']=[A+2B,2A+B]=[A,B]+4[B,A]=[A,B]-4[A,B]=-3[A,B]=-3[A,B']$ multiplicando por $-3$ obtenemos la ecuación equivalente $$B[A,B]+[A,B]A=0,$$ (He cambiado $A',B'$ a $A,B$ por abuso de notación) que, tras el intercambio de $A,B$ y un cambio de signo equivale a $$A[A,B]+[A,B]B=0 \;\;\;\; (2).$$
La ecuación (2) tiene soluciones con $[A,B]\neq0$ ya para $2×2$ matrices. Para ver esto, tenga en cuenta que $[$ M $_2(K),$ M $_2(K)]$ es el subespacio de traza $0$ matrices. Podemos encontrar $A,B$ tal que $$[A,B]=\begin{pmatrix}0 & c \\ 0 & 0\end{pmatrix}\neq0,$$ y de hecho podemos hacerlo de tal manera que $A[A,B]=0=[A,B]B$ basta con elegir $$A=\begin{pmatrix}0 & 0 \\ 0 & 1\end{pmatrix}, B=\begin{pmatrix}0 & 1 \\ 0 & 0\end{pmatrix},$$ que dan $[A,B]=\begin{pmatrix}0 & -1 \\ 0 & 0\end{pmatrix}.$
Yendo hacia atrás podemos encontrar ahora una solución interesante para (1): $$A=\begin{pmatrix} 0 & 0 \\ 2 & -1\end{pmatrix}, B=\begin{pmatrix} 0 & 0 \\ -1& 2\end{pmatrix}, [A,B]=\begin{pmatrix} 0 & 0 \\ -3& 0\end{pmatrix}.$$
Obsérvese que si $k>2$ entonces M $_k(K)$ contiene M $_2(K)$ como un subring.
Ahora bien, si $n\geq4$ :
Consideremos el álgebra libre (no conmutativa) $K\langle X,Y\rangle$ generado por dos elementos $X,Y$ . Desde cuando $A,B$ conmutar tenemos $(A+B)^n=\sum_{i=0}^n\binom{n}i A^iB^{n-i}$ en cualquier $K$ -esto significa que el elemento $$p_n(X,Y)=(X+Y)^n-\sum_{i=0}^n\binom{n}i X^iY^{n-i}$$ pertenece al ideal generado por $[X,Y]$ en $K\langle X,Y\rangle$ . Por lo tanto, para cada $n$ podemos escribir $$p_n(X,Y)=a(X,Y)[X,Y]+[X,Y]b(X,Y)+\sum_i c_i(X,Y)[X,Y]d_i(X,Y),$$ donde $a,b,c_i,d_i$ son polinomios (no conmutativos) en $X,Y$ .
Por ejemplo, si no me equivoqué, por $n=4$ tenemos $$p_4(A,B)=(3A^2+2AB+B^2)[A,B]+[A,B](4B^2+BA+A^2)+A[A,B](A+2B)+(A+2B)[A,B]B.$$ Lo he encontrado emparejando monomios de los mismos grados en $A$ y $B$ . Por ejemplo: $$A^3B-A^2BA=A^2[A,B], A^3B-ABA^2=A[A^2,B]=A^2[A,B]+A[A,B]A,$$ y la difícil, $$A^2B^2-BABA=A^2B^2-B[A,B]A-B^2A^2=[A^2,B^2]-B[A,B]A=AB[A,B]+A[A,B]B+[A,B]BA.$$
Ahora observe que puesto que $p_n$ es homogénea y $n\geq3$ por un argumento de grado debemos tener $a,b,c_i,d_i$ o bien $0$ o de grado como mínimo $1$ es decir, no podemos tener un término de la forma $\alpha[X,Y]$ con $0\neq\alpha\in K$ . Esto implica que tocar el $[X,Y]$ factor de cada término hay un $X$ o un $Y$ a su izquierda o a su derecha.
Por lo tanto, para obtener $p_n(A,B)=0$ basta con tener $$A[A,B]=[A,B]A=B[A,B]=[A,B]B=0.$$ Esto puede hacerse con $[A,B]\neq0$ para matrices de tamaño $3$ o más (basta con elegir matrices dispersas cuyos elementos no nulos no estén en la diagonal, para obtener $[A,B]$ con un solo elemento distinto de cero y $0$ como en la explicación anterior para $2\times 2$ matrices).
(Obsérvese que el argumento general de esta sección también es válido para $n=3$ la sección anterior muestra que en este caso particular podemos encontrar fácilmente ejemplos también de tamaño $2$ .)
