Del contexto del libro se desprende que el problema correcto es $$ A^2 + B^2 = A B + B A = 0. $$ El paso intermedio es que $(B-A)^2 = 0,$ por lo que nombramos la matriz nilpotente $N=B-A.$ Espera, creo que es suficiente. Porque también es cierto que $(A+B)^2 = 0.$ Así que $A+B$ y $B-A$ ambos tienen trazas $0.$ Así que $tr \; \; 2B = 0.$ Eso acaba con la característica distinta de 2. No necesitamos la forma de Jordan completa para las matrices nilpotentes, sólo una prueba rápida de que $N^2 = 0$ implica que la traza de $N$ es cero. Hmmm. Esto ciertamente se deduce del hecho de que una matriz nilpotente sobre cualquier campo tiene una forma de Jordan, pero no puedo decir que haya visto una prueba de ello.
Muy bien, en la característica 2 esto no funciona, en cualquier dimensión toma $$ A = B, $$ $$ A = B \; \; \; \mbox{then} \; \; A^2 + B^2 = 2 A^2 = 0, \; AB + BA = 2 A^2 = 0. $$
En comparación, el problema alternativo $$ A^2 + B^2 = A B + B A = I $$ tiene lo mismo sobre la nilpotencia, sin embargo en los campos donde $2 \neq 0$ y $2$ es un cuadrado obtenemos un contraejemplo con $$ A \; = \; \left( \begin{array}{rr} \frac{1}{\sqrt 2} & \frac{-1}{2} \\ 0 & \frac{1}{\sqrt 2} \end{array} \right) $$ y $$ B \; = \; \left( \begin{array}{rr} \frac{1}{\sqrt 2} & \frac{1}{2} \\ 0 & \frac{1}{\sqrt 2} \end{array} \right) $$