Cómo es que ambas cosas son ciertas: $J = \nabla f ^T $ y también $\nabla f = J^T f$ ?

Question

De preguntas como ésta: Convenciones de filas y columnas del gradiente y del jacobiano Entiendo que para los casos en que $f$ mapas de $\mathbb{R}^n$ en $\mathbb{R}$ es decir $f: \mathbb{R}^n \rightarrow \mathbb{R}$ la transposición del gradiente es igual a la jacobiana: $J = \nabla f ^T $ . De nuevo, véase Convenciones de filas y columnas del gradiente y del jacobiano como mi recurso.

Sin embargo, esto me sigue confundiendo ocasionalmente, porque al encontrar una expresión del gradiente para cuando $f: \mathbb{R}^n \rightarrow \mathbb{R}^m$ Veo expresiones como $\nabla f = J^T f$ . Un ejemplo de ello se encuentra en Nocedal y Wright, primera edición, en la página 260:

La pregunta es cómo es que ambas cosas son ciertas: $J = \nabla f ^T $ y también $\nabla f = J^T f$ ?

Answer 1

Ambos pueden ser verdaderos porque el $f's$ y los jacobianos correspondientes son diferentes. Los mínimos cuadrados no lineales tienen su propia notación y convenciones para lo que es el jacobiano (se aplica, es decir, a las funciones residuales que se elevan al cuadrado y se suman y multiplican por 1/2).

Yo estoy mirando la 2ª edición de Nocedal y Wright, mientras que tú debes estar mirando, aparentemente, la 1ª edición. Tal vez haya un error tipográfico en esa edición, que incluye una "f" donde debería haber una "r" (véase el siguiente párrafo).

En el extracto de Nocedal y Wright correspondiente a un problema de mínimos cuadrados no lineales, f = 1/2 de la suma de los residuos al cuadrado = $\frac{1}{2}\Sigma_{i=1}^nr_i^2$ , donde $r_i$ son las funciones residuales individuales. El jacobiano J, en este contexto de mínimos cuadrados no lineales, es la matriz de derivadas parciales de $r_i$ con respecto a la variable $x_j$ es decir, la fila ith de $J$ es la transposición del gradiente de $r_i$ . Entonces resulta que el gradiente de f = $J^Tr$ , donde $r = $ vector columna de $r_i's$ Así que esto es cierto bajo estas definiciones y convenciones, que difieren de la vida fuera de los mínimos cuadrados no lineales.

Answer 2

Si $A=B^T$ entonces $B=A^T$ . Es simplemente una consecuencia del hecho de que ${\left(A^T\right)}^T=A$ .