¿Cómo diferenciar con respecto a una matriz?

Question

¿Cómo puedo diferenciar lo siguiente por $\mathbf{W}$ ?

\begin{equation} \mathbf{Y} = (\mathbf{W}^T\mathbf{x} + b)^2 \end{equation}

Donde $\mathbf{W} \in \mathcal{R}^{d\times D}$ y $\mathbf(x)\in \mathcal{R}^{d\times 1}$

Cómo calcular $\partial \mathbf{Y}/\partial \mathbf{W}$ ?

Answer 1

Cálculo de matrices se utiliza en estos casos. Tu ecuación parece sacada de la teoría OLS (mínimos cuadrados). En ellas se diferencia por vector $x$ algunas formas cuadráticas como $\frac{\partial (x'A'Ax)}{\partial x}$ . Busca las fórmulas pertinentes en mi enlace anterior.

Si realmente está dispuesto a diferenciarse por matrices no vectores, terminará con tensores . Los tensores son divertidos, pero hasta ahora no he visto que se utilicen mucho en estadística. Son omnipresentes en la física, por cierto. De nuevo, sigue el enlace que he dado.