Elegimos la convención de la física $F_{\mu\nu} = \partial_\mu A_\nu - \partial_\nu A_\mu - i g [A_\mu,A_\nu]$ donde los generadores del álgebra de Lie son herméticos. En este caso la integral tiene signo negativo, $\mathcal{J} = -\int \operatorname{Tr}(F \wedge * F)$ .
Lo primero que hay que tener en cuenta es que $F$ tiene el vector y Índices de álgebra de Lie. La traza es sobre el álgebra de Lie, no sobre los índices de los vectores. Los índices vectoriales son como los de la intensidad de campo en QED. En Yang-Mills la intensidad de campo (también llamada forma de curvatura) está valorada en el álgebra de Lie. En este caso $F_{\mu\nu} = F_{\mu\nu}^a T^a$ donde se utiliza la convención de la suma, y donde el $T^a$ son los generadores de $\mathfrak{su}(n)$ . Para ser explícito, $F$ no sólo tiene componentes tensoriales sino también matriciales $$(F_{\mu\nu})_{ij} = F_{\mu\nu}^a T^a_{ij}.$$
El producto interno de $F$ con sí mismo es por definición $(F,F) = \int F\wedge * F$ donde $*$ es el Hodge $*$ operador. Así, estamos calculando $\mathcal{J} = -\operatorname{Tr}(F,F)$ . Es un ejercicio estándar encontrar el producto exterior de dos $r$ -formas. Encontramos $$F\wedge * F = \frac{1}{2!} F_{\mu\nu} F^{\mu\nu} dx^1\wedge\cdots\wedge dx^4.$$ Nótese que las formas diferenciales no "conocen" el álgebra de Lie. El álgebra aún no ha entrado en el cálculo.
A partir de aquí debemos calcular la traza de $F_{\mu\nu}F^{\mu\nu}$ , $$\begin{eqnarray} \operatorname{Tr} \left(F_{\mu\nu}F^{\mu\nu}\right) &=& \operatorname{Tr} \left( F_{\mu\nu}^a T^a F^{\mu\nu b}T^b\right) \\ &=& \operatorname{Tr}\left(T^a T^b\right) F_{\mu\nu}^a F^{\mu\nu b} \\ &=& \frac{1}{2} \delta^{a b} F_{\mu\nu}^a F^{\mu\nu b} \\ &=& \frac{1}{2} F_{\mu\nu}^a F^{\mu\nu a}, \end{eqnarray}$$ donde hemos utilizado la convención de normalización estándar para el $T^a$ , $\operatorname{Tr} T^a T^b = \frac{1}{2}\delta^{ab}$ . (Esto viene del hecho de que queremos $\mathfrak{su}(2)$ para vivir de forma natural en $\mathfrak{su}(n)$ y los generadores de $\mathfrak{su}(2)$ se toman como $T^a = \sigma^a/2$ , donde $\sigma^a$ son las matrices de Pauli). Así, encontramos $$\begin{eqnarray} \mathcal{J} &=& -\int \operatorname{Tr}(F \wedge * F) \\ &=& -\frac{1}{4} \int d^4x \, F_{\mu\nu}^a F^{\mu\nu a}. \end{eqnarray}$$