Empecemos por el caso sencillo en el que $A$ es sólo un $2\times2$ matriz
deje $\begin{align} f :& \mathbb{R^{2\times2}} \to \mathbb{R} \\ & A \mapsto \det(A) \end{align}$
Quiero encontrar la diferencial de este mapeo si $A$ es invertible.
como pista me sugirieron calcular el siguiente límite :
$\lim_{t \to 0} \frac1t [\det(I+tX) -1]$ donde $X \in \mathbb{R^{2\times2}}$
el límite resulta ser sólo la traza de $X$
y puesto que $\det(I) = 1 $ tenemos que $Df(I)(X) = Tr(X)$ ¿Verdad?
así que supongo que ahora que si quiero encontrar $Df(A)(X)$ para $A$ invertible tengo que calcular este límite :
$\lim_{t \to 0} \frac1t [\det(A+tX) -\det(A)] = \det(A)\lim_{t \to 0} \frac1t [\det(I+tA^{-1}X) -1] $
así que $Df(A)(X) = \det(A)Tr(A^{-1}X)$ ¿Verdad?
ahora en dimensiones superiores el último paso no cambiaría y supongo que en el primer límite la expresión $[\det(I+tX) -1]$ sería algo del tipo $tTr(X) +t^2(\cdots) + t^3(\cdots)+\cdots$
así que todo está bien, pero ¿y si $A$ no es invertible ? el $\det$ siendo una especie de polinomio seguiría siendo diferenciable, ¿verdad? ¿pero cómo se construye la diferencial en este caso?
Editar : mi error si $A$ no es invertible, entonces $\det(A) = 0$ así que supongo $Df(A)(X) = 0$ ¿Puede alguien confirmarlo?
Edit 2 : al final todo se reduce a evaluar esto : $$\lim_{t \to 0 } \frac1t \det(A+tX)$$ para $A$ no invertible y $X \in \mathbb{R^{n\times n}}$