Defino todas estas funciones:
$$f : R^2 \rightarrow R$$
$$\alpha : R^2 \rightarrow R^2$$
$$f o \alpha = g : R^2 \rightarrow R$$
Entonces, para un punto \(P\) en el dominio de \(g\), por la regla de la cadena
\(\nabla g_P = \nabla f_{ \alpha(P)}. D \alpha_P\), donde \(D\alpha_P\) es una matriz de 2x2.
La pregunta es... cómo armo el Hessiano de \(g\)? Busco la expresión exacta... tengo que usar la regla del producto?
$$Hg_P = (\nabla g_P)' = (\nabla f_{\alpha(P)}.D\alpha_P)' = Hf_{\alpha(P)}(D\alpha_P).(D\alpha_P) + \nabla f_{\alpha(P)}.H\alpha_P$$
En ese caso, no me queda claro cómo hacer esta cuenta, porque el Hessiano de \(\alpha\) queda algo así...
$$H\alpha_P = \left(\begin{matrix}(\nabla \alpha_{1})' \\ (\nabla \alpha_{2})' \end{matrix}\right)_P = \left(\begin{matrix} \left(\begin{matrix}\displaystyle\frac{{\partial^2 \alpha_1}}{{\partial x^2}} & \displaystyle\frac{{\partial^2 \alpha_1}}{{\partial x \partial y}} \\ \displaystyle\frac{{\partial^2 \alpha_1}}{{\partial x \partial y}} & \displaystyle\frac{{\partial \alpha_1}}{{\partial y^2}}\end{matrix}\right) \\ \left(\begin{matrix} \displaystyle\frac{{\partial^2 \alpha_2}}{{\partial x^2}} & \displaystyle\frac{{\partial^2 \alpha_2}}{{\partial x \partial y}} \\ \displaystyle\frac{{\partial^2 \alpha_2}}{{\partial x \partial y}} & \displaystyle\frac{{\partial \alpha_2}}{{\partial y^2}} \end{matrix}\right) \end{matrix}\right)_P$$
En fin, creo que ésta es una duda frecuente a la hora de componer funciones a campos.
Bueno, ya solucioné el tema así que lo escribo. Lo que busco es la expresión \(D^2(foG) = D \nabla (foG) = HfoG\). En el caso en que f es escalar y G es vectorial. Lo hago para el caso \(R^2\), pero después se generaliza.
Defino \(f : R^2 \rightarrow R\) y \(G : R^2 \rightarrow R^2\), con \(G = (g_1,g_2)\)
Entonces considero la composición \(foG : R^2 \rightarrow R\), un punto \(P \in Dom(G)\) y llamo \(Q = G(P)\)
El gradiente, por la regla de la cadena es \(\nabla (foG)_P = \nabla f_Q . DG_P\), que es un vector de \(R^2\)
Por ejemplo, la derivada parcial j-ésima de \(foG\) en \(P\), sería
$$\frac{\partial (foG)_P}{\partial x_j} = \frac{\partial f}{\partial g_1}Q \frac{\partial g_1}{\partial x_j}P + \frac{\partial f}{\partial g_2}Q .\frac{\partial g_2}{\partial x_j}P$$
con \(j = 1,2\)
Para el Hessiano, según me dijeron, no conviene armar esa matrix, y de hecho no estaban seguros de cómo sería. Así que calculo, las derivadas segundas parciales, usando regla de la cadena y regla del producto y mirando la expresión de arriba, se obtiene la j-ésima derivada parcial respecto de la i-ésima derivada parcial de \(foG\)
$$\frac{\partial^2 foG_P}{\partial x_i \partial x_j} = ((\frac{\partial^2 f}{\partial g_1^2}Q . \frac{\partial g_1}{\partial x_i}P + \frac{\partial^2 f }{\partial g_2 \partial g_1}Q .\frac{\partial g_2}{\partial x_i}P).\frac{\partial g_1}{\partial x_j}P + \frac{\partial f}{\partial g_1}Q . \frac{\partial^2 g_1}{\partial x_i \partial x_j}P) + ((\frac{\partial^2 f}{\partial g_2 \partial g_1}Q . \frac{\partial g_1}{\partial x_i}P + \frac{\partial^2 f }{\partial g_2^2}Q .\frac{\partial g_2}{\partial x_i}P).\frac{\partial g_2}{\partial x_j}P + \frac{\partial f}{\partial g_2}Q . \frac{\partial^2 g_2}{\partial x_i \partial x_j}P)$$
con \(i,j = 1,2\), no necesariamente distintos.
Notar que lo que estoy obteniendo con este choclo, es la coordenada de la columna i-ésima y la fila j-ésima de la matriz el Hessiano en cuestión.