Trate de calcular directamente. Suponga $(x,y)\rightarrow(X,Y)$ es transformación lineal, tenemos
$$(H(X))_{ij}=\frac{\partial^2f}{\partial X_i\partial X_j}=\sum_k\sum_l\frac{\partial x_k}{\partial X_i}\frac{\partial^2f}{\partial x_k\partial x_l}\frac{\partial x_l}{\partial X_j}=\sum_k\sum_l J_{ki}(H(x))_{kl}J_{lj}$$
Escribir en forma de matriz, precisamente,
$$H(X)=J^TH(x)J$$
Ahora puede que todavía no está claro por qué hay un $J^T$ en lugar de $J^{-1}$. La razón es que Hess no es una transformación lineal como lo que las otras matrices.
Veamos más de cerca el cambio de base de una matriz de Una transformación lineal $P$.
Si la matriz de $A$ es una transformación lineal, que se asigna un vector un vector.
$$y=Ax$$
A continuación, el cambio de base significa una transformación lineal $A'$, de modo que
$$Py=A'Px$$
Este es, precisamente,$A'=P^{-1}AP$. Decimos transformación lineal es tanto covariante (por lo $P$) y contravariante (por lo $P^{-1}$).
Sin embargo, si la matriz de $A$ es una forma bilineal, que se asigna de los dos vectores a un escalar.
$$c=A(x,y)$$
A continuación, el cambio de base se convierte en
$$c=A'(Px,Py)$$
Así que por cálculo escribí anteriormente, $A'=J^TAJ$. Se dice entonces que esta asignación es covariante(por lo tanto $P$)
Usted puede decir que puedo también respecto transformación lineal como una asignación de dos vectores a escalar definida como
$$c=x^TAy$$
Sí, ese es el problema. En realidad, aquí $x$ ya no es un vector, pero covector. Usted tendrá de verificación
$$c=(Px)^TA'(Py)=x^T(P^TA'P)y$$
También transponer en lugar de la inversa de la derecha? Podemos concluir que la forma de transformación depende del tipo de vector y matriz. En detalle, contravariante, covariante o mezcla tipo.