Matriz de cadena de reglas por vector

Question

Sea $\boldsymbol{X}$ una matriz de $n \times p$ y $\boldsymbol{\beta}$ un vector dimensional de $p-$. Me gustaría calcular

$$ \frac{\partial f(\boldsymbol{X\beta})}{\partial\boldsymbol{\beta}} $$

Intenté

$$ f'(\boldsymbol{X\beta}) \boldsymbol{X} $$

pero, obviamente, las dimensiones no son correctas.

Answer 1

Tome una función escalar ordinaria escalar $\phi(z)$ y su derivada $\phi'(z)=\frac{d\phi}{dz}$ y aplíquelas elemento por elemento a un argumento vectorial, es decir $$\eqalign{ v &= X\beta,\quad f &= \phi(v),\quad f' &= \phi'(v) \cr }$$ La diferencial de tal función vectorial puede expresarse usando un producto punto a punto $(\odot)$ o mejor aún, una matriz diagonal $$\eqalign{ df &= f'\odot dv \cr &= {\rm Diag}(f')\,dv \cr &= {\rm Diag}(f')\,X\,d\beta \cr }$$ Dada esta diferencial, el gradiente respecto a $\beta$ puede identificarse como la matriz
$$\eqalign{ \frac{\partial f}{\partial \beta} &= {\rm Diag}(f')X \cr\cr }$$ Un ejemplo de la equivalencia del producto Hadamard y de la diagonalización: $$\eqalign{ &a = \pmatrix{a_1\\a_2},\quad &b = \pmatrix{b_1\\b_2},\quad &a&\odot&b = \pmatrix{a_1b_1\\a_2b_2} = b\odot a \cr &A = {\rm Diag}(a) = &\pmatrix{a_1&0\\0&a_2},\quad &&A&b = \pmatrix{a_1b_1\\a_2b_2} \cr &B = {\rm Diag}(b) = &\pmatrix{b_1&0\\0&b_2},\quad &&B&a = \pmatrix{a_1b_1\\a_2b_2} \cr }$$

Answer 2

Tienes eso, como escribiste

$$\partial[f(X\beta)]=\partial f(X\beta) X$$

para $f:\Bbb R^n\to[0,\infty)$ y $X:\Bbb R^p\to\Bbb R^n$. Entonces $\partial f(X\beta)$ puede ser representado por el gradiente $\nabla f(X\beta)$, que es un vector en $\Bbb R^n$ y $\nabla f(X\beta)X$ es un vector en $\Bbb R^p$, que es el gradiente de $f\circ X$ en $\beta$, por lo tanto

$$\partial f(X\beta) Xh=\nabla f(X\beta)X\cdot h=\nabla(f\circ X)(\beta)\cdot h$$

para cualquier $h\in\Bbb R^p$, donde el punto es el producto punto euclidiano.