Sí, tiene sentido hablar sobre los derivados de las funciones de $f:V\to W$ donde $V$ $W$ son una normativa espacio vectorial, por ejemplo.
En este caso, decimos que la $f$ es diferenciable en a $x\in V$ si existe un mapeo lineal $Df(x):V\to V$ tal que
$$
\lim_{h\to 0}\frac{\|f(x+h)-f(x) Df(x)h\|}{\|h\|}=0
$$
En su caso particular, se podría calcular la derivada de $M\mapsto M^n$
mediante el uso de un $n$-aplicación lineal dada por
$$
\varphi(A_1,\ldots,A_n)=A_1\cdot\ldots\cdot A_n.
$$
Usted puede demostrar por cualquier $X=(X_1,\ldots,X_n)\in M_n(R)\times\ldots\times M_n(R)$ ($n$-veces) que
$$
D\varphi(X)(H_1,\ldots,H_n)=\sum_{i=1}^n \varphi(X_1,\ldots,X_{i-1},H_i,X_{i+1},\ldots,X_n).
$$
Por tanto, la fórmula que desea debe ser interpretado como la derivada de la $\varphi$ $X=(M,\ldots,M)$ aplicado en $(Id,\ldots,Id)$. Que es equivalente a lo que hacemos cuando escribimos esta fórmula para la real y complejas funciones.