En condiciones necesarias para la optimización restringida en$\mathbb{R}^{n}$

Question

Estoy confundido por lo que Liberzon escribe en su libro sobre el control óptimo en la página 12 y el comienzo de 13 con respecto a las condiciones necesarias de optimalidad.

Él comienza mostrando la condición de primer orden para restringida de optimalidad de $f$ w.r.t $h$ i.e

Si $x$ es limitada mínimos de $f$ $\nabla f(x)+ \lambda\nabla h(x)=0$ algunos $\lambda$.

Para hacer esto más explícito que define a un aumento del coste funcional,

$\ell(x,\lambda)=\nabla f(x)+ \lambda\nabla h(x)$.

Luego se muestra que, si $x$ es limitada mínimos y $\lambda$ es su multiplicador de Lagrange, a continuación, $\nabla \ell=0$ en este punto. Todo bueno y bien hasta el momento.

El próximo argumenta,

Si $(x,\lambda)$ es una de los mínimos de $\ell$ $h(x)=0$ y sujeto a estas restricciones $x$ también minimizar $f$ i.e el gradiente de $\ell$ es cero.

Pero, se insiste en que esta no es una condición necesaria de optimalidad si sólo suponemos que $x$ es restringido mínimos de $f$. No entiendo lo que quiere decir aquí. ¿Qué situación se está refiriendo? Y qué es lo que quiero decir?

Él sólo demostró que no siempre son multiplicadores para cualquier limitada mínimos y, por tanto, debemos ser capaces de repetir uno de sus argumentos anteriores para obtener el gradiente es cero de $\ell$. Pero esto no puede ser. Se está refiriendo a una situación en la que no quiero suponer nada acerca de $\lambda$?.

¿Alguien entiende esto?

Su libro está disponible gratuitamente en línea http://liberzon.csl.illinois.edu/teaching/cvoc.pdf

También aquí es el texto

OBSERVAR QUE LA RECOMPENSA NO SE ATRIBUYE A LA RESPUESTA CORRECTA!

Leer los comentarios si quieres entender por qué él lo consiguió.

Answer 1

Bastante bonito geometría básica de Lagrange condición de que $\nabla f$ $\nabla g$ son paralelas es necesario. Específicamente, si el gradiente de f y la restricción no son paralelas, entonces existe un vector v perpendicular al gradiente de g con $v^T \nabla f<0$. Va lo suficientemente pequeña distancia en la dirección de v y, a continuación, la proyección a la superficie de restricción, a continuación, le da un punto arbitrariamente cerca del punto inicial y en la superficie con los más pequeños de la función objetivo. Los problemas surgen sólo en cosas como las esquinas de la superficie de restricción.

Sin embargo, el punto en el aumento del espacio no es necesario para minimizar el Lagrangiano en general, podría ser un punto de silla. Algunos convexidad tipo de supuestos son necesarios para asegurar que el Lagrangiano es realmente mínimo.

Answer 2

OP consiguió un punto. No parece tratarse de un error tipográfico. La palabra necesaria , debe ser reemplazada con suficiente en 2 lugar en el primer párrafo de la p. 16 en la Ref. 1, o equivalentemente, el segundo párrafo de la p. 13 en la Ref. 2.

Esta conclusión es apoyada por al menos 2 hechos:

1. El autor menciona un puñado de veces en la subsección 1.2.2 que se supone que $x^{\ast}$ es regular, el punto, es decir,$\nabla h_i(x^{\ast})$, $i=1, \ldots m$, se supone que son linealmente independientes. En un punto habitual, eq. (1.27) en la Ref. 1 y eq. (1.28) en la Ref. 2 son realmente necesarios, pero no suficientes condiciones.

2. También el siguiente párrafo

   "Aunque la condición en términos de multiplicadores de Lagrange sólo es necesaria y no suficiente..."

   encaja muy bien con este error de interpretación. Ver también esta de Matemáticas.SE para un ejemplo ilustrativo.

Referencias:

1. D. Liberzon, Cálculo de Variaciones y la Teoría de Control Óptimo: Una Concisa Introducción, 2012.

2. Preprint de la Ref. 1. Un archivo PDF que está disponible aquí desde la página del autor.

Answer 3

Envié un correo electrónico al autor. Lo que él quiere decir es que la necesidad no se sigue del argumento con el costo agudo, PERO sigue siendo cierto y sí se sigue del primer argumento.