En efecto, el anticonmutador $$ S^{AB}\equiv \{T^A,T^B\} $$ no está en el álgebra de Lie, sino en el álgebra envolvente universal (formado por sumas de productos de generadores); y, como apreciaste en tu respuesta, sólo para la representación fundamental está en el espacio que involucra la identidad y el álgebra de Lie -a fuerza de la completitud de las mismas en el spanning $N\times N$ matrices.
En general, para otras representaciones, se sale de ese espacio.
Y, efectivamente, como se puede ver trivialmente para las matrices SU(2) de espín-1 3×3, los anticomutadores superan el espacio 4-d de la identidad con los 3 generadores.
En tu respuesta, has descompuesto correctamente todos los anticomutadores en proyecciones sobre la identidad, el espacio del álgebra de Lie y el espacio ortogonal restante del álgebra de Lie universal M . Sin embargo, en la práctica, M por suerte logra proyectarse fuera de todas las cantidades de significación, como el trazo de trilíneas que representas por $d_{ABC}$ , retocada a continuación.
Sin embargo, estos objetos tienen propiedades notablemente sencillas, como has intuido en tu respuesta, aunque no está claro que hayas apreciado la sistemática de la misma. La cuestión es que estos d -definidos por la traza de la trilínea varían con la representación (por ejemplo, desaparecen para representaciones reales como el adjunto), pero todos son proporcionales a la $d_{ABC}$ de la representación fundamental ¡!
Es decir, que el $d_{ABC}$ de la fundamental lega su estructura tensorial a todas las demás repeticiones, ya que se construyen a partir de la fundamental (véase más adelante). (De hecho, figura en la definición del invariante cúbica de Casimir de todos los SU( N )s para N >2. Por supuesto, desaparece para SU(2)). Hay más propiedades que se pueden encontrar en la obra de D B Lichtenberg de 1970 Simetría unitaria y partículas elementales El capítulo 6.2.
Para una representación determinada R de los generadores $T^A_R$ normalizar como es habitual en HEP, $$ \mathrm{Tr} (T^A_R T^B_R)= T(R) \delta^{AB}, $$ donde el índice de la representación T(R) es, por ejemplo, para la fundamental y el adjunto de SU(N), $T(F)=1/2,~~ T(A)=N$ .
La traza de la trilínea es $$ A(R) d_{ABC}=2\mathrm{Tr} (T^A_R S_R^{BC})=2\mathrm{Tr} (T^A_R \{T^B_R,T^C_R \} ), $$ donde el coeficiente de anomalía A(R) se normaliza de tal manera que, por supuesto, A(F)=1 , ya que los coeficientes d están definidos en la fundamental, como en el enunciado de su pregunta.
A partir de la trilinealidad del argumento de la traza, se puede ver inmediatamente que $A(R)=-A(\bar{R})$ y así A \=0 para cualquier representación real como el adjunto (o, en el caso de SU(2), el fundamental también, ¡ya que es pseudoreal!) Además, a partir de las propiedades de la traza se puede ver que $$ A(R_1\oplus R_2)= A(R_1)+A(R_2). $$ Lo bueno viene con el producto de Kronecker, el coproducto de dos repeticiones, $$ A(R_1\otimes R_2)= A(R_1)d(R_2)+ d(R_1)A(R_2) , \tag{*} $$ que asegura la bonita propiedad mencionada en el trazado de la trilínea. d(R) es la dimensión de la representación en cuestión.
Para ser más explícito, el coproducto es (el homomorfismo de anillo) $$ T^A_{R_1\otimes R_2}=T^A_{R_1}\otimes 1\!\!1_{R_2}+1\!\!1_{R_2}\otimes T^A_{R_2}, $$ que satisface el álgebra de Lie, bien; aunque el anticomutador, en fuerte contraste con el conmutador, tiene piezas cruzadas adicionales (no es primitivo, en matemático): $$ S^{AB}_{R_1\otimes R_2}=S^{AB}_{R_1}\otimes 1\!\!1_{R_2} + 1\!\!1_{R_1} \otimes S^{AB}_{R_2} + 2(T^A_{R_1}\otimes T^B_{R_2}+ T^B_{R_1}\otimes T^A_{R_2} ). $$
Sin embargo, nótese que, insertados en la traza, estos molestos términos cruzados se proyectan fuera, simplemente en virtud de la propiedad fundamental de la traza, que la traza de un producto tensorial es el producto de las trazas de los factores tensoriales. Como consecuencia, los términos cruzados, cuando se multiplican por el coproducto del generador, siempre producirán términos que contienen un factor tensorial de una sola potencia del generador en alguna parte, ya sea $R_1$ o $R_2$ ¡y así será proyectado por la traza de una sola potencia del generador! Esto, entonces, asegura que la traza de la anomalía es siempre proporcional a $d_{ABC}$ con los coeficientes de anomalía que se combinan a través de la relación anterior (*). (Los matemáticos llaman a esta proyección una consecuencia del teorema de Friedrich, pero no importa).
Todas las representaciones pueden ser alcanzadas a través del tensado de la fundamental, por lo que sus coeficientes de anomalía pueden ser calculados recursivamente, en principio. (Y, por supuesto, algunos desaparecen, como los reales).
Finalmente, para la descomposición que planteas correctamente en forma, la consistencia con el trazado anterior (trazando o multiplicando por un T y rastreo) dicta, en cambio, $$ S^{AB}_R= \frac{2T(R)}{d(R)}\delta^{AB} 1\!\!1_{d(R)} + \frac{A(R)}{2T(R)} d_{ABC}T^C_R +M^{AB}_R~. $$
Si desea investigar el engranaje de los conmutadores con los anticonmutadores y la devolución del d -coeficientes a representaciones superiores, que podrías utilizar, más allá de la identidad de Jacobi, $$ [[A,B],C]+ [[B,C],A]+[[C,A],B] =0, $$ una plétora de sus análogos mixtos, $$ [\{A,B\},C]+ [\{B,C\},A]+[\{C,A\},B] =0,\\ [\{A,B\},C]+ \{[C,B],A\}+\{[C,A],B\} =0, $$ etc.
Muchas de las relaciones fundamentales se obtienen mediante la consideración de $K^A\equiv d_{ABC}T^BT^C=d_{ABC}S^{BC}$ que, aunque no es primitivo, se transforma de forma sencilla, $[K^A,T^B]=if_{ABC}K^C$ . Se puede demostrar, como en el caso anterior, que esta relación es válida para todas las representaciones, donde, sin embargo, el d en su definición es todavía el de la fundamental. Así, por encima, $\mathrm{Tr}(T_R^A K_R^B)=A(R)(N^2/4-1)~\delta^{AB}/N$ y así sucesivamente.