Atascado en el paso del Problema Lagrangiano

Question

Para los vectores columna $w, E$, $i$ el vector de unos, y $\Sigma$ - una matriz simétrica definida positiva de $n\times n$, estoy tratando de resolver el siguiente problema de maximización:

$$ \max_{\{ w\}} \left\{ \frac{w^T E}{\sqrt{w^T\Sigma w}}\right\} \quad t.q. \quad w^T i = 1 $$ Formo el lagrangiano: $$ L = \frac{w^T E}{\sqrt{w^T\Sigma w}}+\lambda(w^T i -1) $$ $$ \frac{dL}{dw}= \frac{E(w^T\Sigma w)^{1/2} - w^TE \Sigma w (w^T\Sigma w)^{-1/2} }{w^T\Sigma w} + \lambda i \overset{\text{set}}{=} 0 $$ pero estoy confundido en cómo proceder, usualmente ponemos la derivada en términos de $w$ y usamos la restricción, pero no es tan fácil en este caso, ¿alguna pista?

actualización En lugar de resolver el siguiente problema como se propuso en los comentarios: $$ \max_{\{w\}} w^T E \quad t.q. \quad w^Ti=1, w^T\Sigma w=\sigma^2 $$ conduce al resultado: $$ w = \Sigma^{-1} \frac{E (C\mu -B)+1(A-B\mu)}{AC-B^2} $$ $$ \implies w^T \Sigma w = \frac{C\mu^2-2B\mu + A}{AC-B^2} $$ dónde: $$ A = E^T \Sigma^{-1}E \quad~~ B = E^T \Sigma^{-1}1 ~\quad C= 1^T \Sigma^{-1}1 $$

Answer 1

Sea $\Sigma^{1/2}$ una raíz cuadrada de $\Sigma$ y realiza el cambio de variable $$ u=\Sigma^{1/2}w,\quad a=\Sigma^{-1/2}E,\quad b=\Sigma^{-1/2}i. $$ El problema se convierte en $$ \max\frac{a^Tu}{\|u\|}\quad\text{sujeto a } \ b^Tu=1. $$ Dado que la función objetivo depende solo del vector unitario $\frac{u}{\|u\|}$ podemos reemplazar la condición $b^Tu=1$ por $b^Tu>0$ y normalizar $u$ a $b^Tu=1$ al final. Tenemos los siguientes casos

Caso 1: $a^Tb>0$ (es decir, $a$ y $b$ apuntan al mismo semiespacio). Entonces el máximo se alcanza claramente en la misma dirección que $a$, es decir, $u_0\|a$ y $$ \max=\frac{a^Ta}{\|a\|}=\|a\|. $$ La normalización da $u_0=\frac{a}{b^Ta}$.

En las notaciones originales: $w_0=\Sigma^{-1/2}u_0=\frac{\Sigma^{-1}E}{i^T\Sigma^{-1}E}$ y $\max=\sqrt{E^T\Sigma^{-1}E}$.

Caso 2: $a^Tb\le 0$ (es decir, $a$ y $b$ apuntan a semiespacios opuestos). En este caso, para maximizar el producto escalar $a^Tu/\|u\|$, el vector $u$ intentará apuntar lo más cerca posible a $a$, pero esta vez llegando a la restricción $b^Tu=0$ (no es posible normalizar, $\|u_0\|=\infty$). Al ignorar la restricción $b^Tu=1$, es decir, reemplazarla por $b^Tu\ge 0$, obtendremos que el mejor ajuste será a lo largo de la proyección de $a$ en el hiperplano $b^Tu=0$. Esto significa que el máximo no se alcanza, solo el supremo $$ \sup=|\text{proyección de $a$ en $b^Tu=0$ a lo largo de la normal $b$}|= \sqrt{\|a\|^2-\frac{|a^Tb|^2}{\|b\|^2}}. $$

Answer 2

Observe que su función es independiente de la longitud del vector $w$.
Dado que la restricción dada simplemente normaliza $\|w\|$, el problema es efectivamente no restringido.
Dado que el problema es no restringido, no es necesario utilizar el método de Lagrange.
Despeje la raíz cuadrada de la función, luego encuentre el gradiente $$\eqalign{ \phi^2 &= \frac{w^TEE^Tw}{w^T\Sigma w} \cr \frac{\partial\phi}{\partial w} &= \bigg(\frac{(w^T\Sigma w)EE^T-(w^TEE^Tw)\Sigma }{(w^T\Sigma w)^2\phi}\bigg)\,w \cr }$$ Al igualar este gradiente a cero y despejar las fracciones obtenemos $$\eqalign{ \phi\,\Sigma\,w &= EE^Tw \cr w &= \bigg(\frac{E^Tw}{\phi}\bigg)\,\Sigma^{-1}E = \lambda\,\Sigma^{-1}E \cr }$$ Ajuste el resultado según la restricción especificada $$\eqalign{ w &= \frac{\lambda\Sigma^{-1}E}{i^T(\lambda\Sigma^{-1}E)} &= \frac{\Sigma^{-1}E}{i^T\Sigma^{-1}E} }$$