La Comprensión De Langrange Multiplicador

Question

Estoy tratando de entender Multiplicador de Lagrange. Creo que he comprendido la teoría puede seguir y menos difícil ejemplos, pero siento que todavía estoy perdiendo la comprensión completa. Creo que para optimizar una función de $f(\mathbf{x})$ sujeto a la restricción $g(\mathbf{x})=C$, que se puede construir una nueva función de Lagrange, de la siguiente manera:

$$L(\mathbf{x},\lambda)=f(\mathbf{x})-\lambda \left(g(\mathbf{x})-C\right)$$

Si me gradiente de la Lagrangiana, voy a obtener un vector función de derivados ($D+1$) mientras que $D$ es la dimensión de $\mathbf{x}$:

$$ \nabla L(\mathbf{x},\lambda)= \begin{bmatrix} \frac{\partial L(\mathbf{x},\lambda)}{\partial x_1} \\ \vdots\\ \frac{\partial L(\mathbf{x},\lambda)}{\partial x_d} \\ \frac{\partial L(\mathbf{x},\lambda)}{\partial \lambda} \\ \end{bmatrix} = \begin{bmatrix} \frac{\partial f(\mathbf{x})}{\partial x_1}-\lambda \left[ \frac{\partial }{\partial x_1} \left(g(\mathbf{x})-C \right) \right]\\ \vdots\\ \frac{\partial f(\mathbf{x})}{\partial x_d}-\lambda \left[ \frac{\partial }{\partial x_d} \left(g(\mathbf{x})-C \right) \right]\\ -\left(g(\mathbf{x})-C\right) \\ \end{bmatrix} =0 $$

Problema.
Yo creo que los gradientes de Lagrange son iguales a 0, porque queremos encontrar un punto(s) $\mathbf{x}_{\,0}$ para que los gradientes son proporcionales, tener la misma dirección. He seguido un par de explicaciones teóricas y no puede comprender por qué queremos que los gradientes de tener la misma dirección, ¿por qué hemos de buscar un "punto" donde los gradientes son proporcionales. Si puedo agregar múltiples limitaciones, restricciones añadir su propio gradiente, ¿cómo podemos encontrar "el punto de que el mismo degradado" cuando tenemos múltiples gradientes de diferentes limitaciones?

Ejemplo.
También, he intentado un ejemplo muy trivial y que no he logrado entender su salida. Supongo que es porque no entiendo cómo se aplican las restricciones de uso de Multiplicadores de Lagrange. Por ejemplo:

$f(x)=(x-1)(x-5)=x^2-6x+5 \\ g(x)=x-3 \\ L(x)=x^2-6x+5 - \lambda (x-3) \\ $

Esta es una parábola y que yo estaba buscando el valor máx. Si yo no aplica restricción, el máximo de esta función está en el infinito! Traté de aplicar una línea de $g(x)=x-3$ como una restricción. Voy a construir en el Lagrangiano, calcula sus derivados y tener todo igual a 0, tengo el siguiente resultado:

$\begin{cases} \frac{\mathrm dL(x)}{\mathrm d x} = 2x-6-\lambda = 0\\ \frac{\mathrm dL(x)}{\mathrm d \lambda} = x-3 = 0\\ \end{casos}$

Esto es incómodo porque la primera y la segunda de las ecuaciones son las mismas que si no tengo lambda. También, la sustitución de la segunda a la primera causa,$\lambda=0$. Cuando me dibujar la parábola y la recta, tengo dos puntos de intersección. No sé por qué el Multiplicador de Lagrange no funciona aquí, me da un punto de $x_0 \approx 5.5$.

Gracias

Answer 1

La función de Lagrange es puramente formal objeto de no tener ninguna interpretación intuitiva. Establecimiento $\nabla L=0$ junto con la restricción proporciona los puntos de ${\bf x}\in S$ (el colector definido por la restricción) donde $$\nabla f({\bf x})=\lambda\nabla g({\bf x})\tag{1}$$ para algunos el factor de $\lambda$. Estos puntos son condicionalmente puntos estacionarios de $f$$S$.

Ahora la condición de $(1)$ cuenta con una intuitiva sentido geométrico: Considerar un punto de ${\bf p}\in S$. Desde $S$ es una superficie de nivel de la función de limitación $g$ el gradiente $\nabla g({\bf p})$ (que se supone ser $\ne{\bf 0}$) es ortogonal a $S$${\bf p}$, o más precisamente: es la normal de la recta tangente hyperplane $S_{\bf p}$.

Por otro lado, si ${\bf p}$ es considerado un punto fijo de $f$, entonces la derivada direccional $$\lim_{t\to0+}{f({\bf p}+t{\bf A})-f({\bf p})\over t}=\nabla f({\bf p})\cdot{\bf A}$$ of $f$ at ${\bf p}$ is $=0$ in all allowed directions, i.e., in all directions ${\bf A}\S_{\bf p}$. This means that $\nabla f({\bf p})\asesino S_{\bf p}$, hence $\nabla f({\bf p})$ is parallel to $\nabla g({\bf p})$, and this is what $(1)$ es decir.

Answer 2

Permítanme tratar y ayudar a comprender el panorama completo.

Si usted tiene que encontrar el local de max/min/puntos de inflexión de una $f({\bf x})$, significa que usted está buscando en los puntos donde la $df=0$ a lo largo de cualquier dirección alrededor del punto de $\bf x$. Desde $$ 0 = df = {{\partial f} \over {\partial x_1 }}dx_1 + \cdots + {{\partial f} \over {\partial x_n }}dx_n = \Delta _{\,{\bf x}} f({\bf x}) \cdot d{\bf x} $$ y el vector $d{\bf x}$ tiene "todos los grados de libertad", que implica que $\Delta _{\,{\bf x}} f({\bf x})$ será nula.

Ahora, considere el restringir dada por la $\bf x$ deberá permanecer en $$ h({\bf x}) = g({\bf x}) - C = 0 $$ Eso significa que ahora no vamos a tomar lo $d({\bf x})$ para establecer la nulidad de $df$, pero sólo aquellos para los que $$ {{\partial h} \over {\partial x_1 }}dx_1 + \cdots + {{\partial h} \over {\partial x_n }}dx_n = 0 $$ es decir, $$ d{\bf x}^ * :\Delta _{\,{\bf x}} h({\bf x}) \cdot d{\bf x}^ * = 0 $$

Por lo tanto $$ \eqalign{ & \left\{ \matriz{ \Delta _{\,{\bf x}} h({\bf x}) \cdot d{\bf x}^ * = 0 \hfill \cr \Delta _{\,{\bf x}} f({\bf x}) \cdot d{\bf x}^ * = 0 \hfill \cr} \right.\quad \Rightarrow \cr & \Rightarrow \quad \Delta _{\,{\bf x}} f({\bf x})//\Delta _{\,{\bf x}} h({\bf x})\quad \Rightarrow \quad \Delta _{\,{\bf x}} f({\bf x}) = \lambda \,\Delta _{\,{\bf x}} h({\bf x})\quad \Rightarrow \quad \cr & \Rightarrow \quad \Delta _{\,{\bf x}} \left( {f({\bf x}) - \lambda h({\bf x})} \right) = \,0\quad \Rightarrow \quad \left( {f({\bf x}) - \lambda h({\bf x})} \right) = c \cr} $$ así, los Deltas debe ser paralelo o $\left( {f({\bf x}) - \lambda h({\bf x})} \right) = c $ donde la constante $c$ no depende de $\bf x$ en $\lambda$.

A partir de aquí creo que se puede proceder por sí mismo.

Answer 3

En tu ejemplo, la optimización de la función de $f(x)=(x-1)(x-5)$ sujeto a la restricción $x=3$ !!!

Por lo tanto usted está buscando para $\max \{f(x):x=3\}= \max \{-4\}=-4$

Para este problema que en realidad no necesita Multiplicadores de Lagrange.