Por la linealidad de la integración, seguimiento, y la multiplicación de la matriz, podemos tirar de $\int$ dentro de:
$$\int \mathrm{tr}\big( (Ax+B)^{-1}C\big)dx=\mathrm{tr}\left( \int (Ax+B)^{-1}dx\, C\right).$$
Yo pensaba originalmente $\log(Ax+B)\;A^{-1}$ sería la antiderivada para esto, pero oenamen amablemente señala que esto no puede ser dicho en todos los casos ($\log XY=\log X+\log Y$ no necesariamente si las matrices $X$ $Y$ no conmutan!); en su lugar, tenemos un especial de $B^{-1}$ factor. Tenemos:
$$\frac{d}{dx}\log(I+xU) =\quad U(I+xU)^{-1} =(I+xU)^{-1}U.$$
Por lo tanto, la aplicación de los anteriores junto a $X^{-1}Y^{-1}=(YX)^{-1}$:
$$\begin{array}{c l} \frac{d}{dx}\log \big(B^{-1}(Ax+B)\big) & =\frac{d}{dx}\log(I+xB^{-1}A) \\ & = (I+xB^{-1}A)^{-1}B^{-1}A \\ & = \big(B\cdot(I+B^{-1}Ax)\big)^{-1}A \\ & = (Ax+B)^{-1}A. \end{array}$$
Por lo tanto llegamos a la conclusión de
$$\int \mathrm{tr}\big( (Ax+B)^{-1}C\big)dx =\mathrm{tr}\left(\log\big(I+xB^{-1}A)\; A^{-1}C\right)+const. $$