Regla del producto para funciones vectoriales

Question

Estoy tratando de entender cómo aplicar la regla del producto para funciones matriciales o vectoriales.

En concreto, estoy tratando de resolver cómo aplicar la regla del producto a $$x^TAx = f(x)g(x)$$ donde $f(x) = x^T$ , $g(x)=Ax$ , $x\in\mathbb{R}^N$ y $A\in \mathbb{R}^{NxN}$

Sé que $\nabla_x x^TAx = (A + A^T)x$ o $x^T(A + A^T)$ dependiendo de la disposición, sin embargo sólo estoy tratando de usar esto como un ejemplo para ver si puedo obtener el mismo resultado con la regla del producto.

Esta pregunta lo explica para las funciones de valor escalar como $$f(x)\nabla_x g(x)+g(x)\nabla_x f(x).$$

Sin embargo, las cosas no tienen las dimensiones correctas cuando introduzco los valores en lo anterior, es decir. Como Travis escribió en el comentario de abajo, deberíamos tener:

$$ \nabla_x(x^TAx) = (\nabla_x x^T)Ax + x^T\nabla_x(Ax) $$

Sin embargo, eso todavía le deja con al menos un $x$ en la primera expresión y un $x^T$ en el segundo. No veo cómo eso puede conformarse y cómo te deja con $(A + A^T)x$ o $x^T(A + A^T)$

Esta pregunta se pregunta esencialmente lo mismo, pero la respuesta no implica realmente la regla del producto anterior. Me imagino que debe haber alguna fórmula general para aplicar, como con las funciones de valor escalar.

¿Estoy escribiendo correctamente la regla del producto en este caso? ¿Hay algo que me falte o que esté haciendo mal?

EDITAR:

Partiendo de la respuesta de Algabraic Pavel... Creo que el problema es que hay que formular las funciones $f(x)$ y $f(x)$ así que están en el mismo espacio.

Es decir, para $f,g:\mathbb{R}^N\rightarrow \mathbb{R}^M$ la regla del producto es:

$$\nabla_x (f(x)^Tg(x)) = f(x)^T\nabla_x g(x) + g(x)^T \nabla f(x)$$

Así, en el ejemplo anterior, si dejamos que $f(x) = x$ , $g(x)=Ax$ entonces se cumple la fórmula.

Como otro ejemplo, considere $$Axx^T$$ y que $f(x) = x^T A^T$ y $g(x) = x^T$ . Tenemos ambos $f,g:\mathbb{R}^{Nx1} \rightarrow \mathbb{R}^{1xN}$ y

$$\nabla_x (f(x)^Tg(x)) = \nabla_x (Axx^T) = Ax + xA^T$$

que se mantiene, fíjate que si hicimos $f(x) = Ax$ y no $f(x) = (Ax)^T$ la regla se desmorona.

Sin embargo, todavía no sé si esto es válido en todos los casos. ¿Algún otro ejemplo?

Answer 1

Todo depende de las convenciones que utilices. Examina la regla del producto derivado componente por componente y obtén que en este caso te da $$ \tag{1} \nabla_x[f(x)^Tg(x)]=f(x)^T\nabla_xg(x)+g(x)^T\nabla_x f(x). $$ Así que con $f(x):=x$ y $g(x):=Ax$ tenemos $$ \nabla_x(x^TAx)=x^TA+x^TA^T=x^T(A+A^T). $$

---

Si $f,g:\mathbb{R}^n\to\mathbb{R}^m$ entonces $$ \frac{\partial}{\partial x_j}f^Tg= \frac{\partial}{\partial x_j}\sum_{i=1}^mf_ig_i= \sum_{i=1}^m\left(f_i\frac{\partial g_i}{\partial x_j}+g_i\frac{\partial f_i}{\partial x_j}\right). $$ Así que definiendo $$ \nabla_x f=\left(\frac{\partial f_i}{\partial x_j}\right)_{ij} $$ da (1).