He encontrado la siguiente identidad:
$$ \frac{\partial( \det (X^T A X ))}{\partial X} = 2\det(X^TAX)AX(X^TAX)^{-1} $$
en la matriz de libro de cocina. Es la ecuación 47 en la página 8. Tenga en cuenta que $X$ $n \times m$ matriz y $A$ es simétrica $n \times n$ matriz.
Yo no podía encontrar la identidad en sus referencias citadas. ¿Alguien sabe de un libro de texto o el papel que tiene esta identidad?
NOTA: hice esta pregunta en Mathoverflow y se le aconsejó volver a publicar aquí.