Si$A$ es una matriz definida positiva, entonces la solución al problema de minimización$(1/2)x^TAx - b^Tx$ viene dada por$A^{-1}b$. Estoy interesado en la generalización de esto a un espacio de Hilbert. ¿Qué condiciones se requieren en$A$ para que esto sea cierto en un espacio de Hilbert? También hay una referencia que incluye esto? Busqué en los libros de Google, pero no pude encontrarlo.
Respuesta
¿Demasiados anuncios?
Lo que usted necesita es mirar algunos textos en el análisis funcional, especialmente sobre "Métodos Directos" en "Cálculo de Variaciones". Te voy a dar un rápido repaso aquí a descifrar lo que Rahul Narain dijo en los comentarios, pero no es completa.
En primer lugar vamos a repasar cómo el problema de minimización, se resuelve en lo finito espacios dimensionales. Vamos a considerar un número finito de dimensiones de espacio vectorial $V$, con un producto interior $\langle,\rangle$. Deje $A$ ser un auto-adjunto lineal operador $V\to V$, e $b$ algún elemento de $V$. Consideramos que el problema de minimización con la no-lineal funcional $J(x) = \frac12 \langle x,Ax\rangle - \langle b,x\rangle$. Hay dos pasos en la búsqueda de la minimizer.
Paso 1) Existencia de un minimizer. En primer lugar, debemos mostrar que $J(x)$ está delimitada desde abajo. Aquí es donde se utiliza por primera vez que el $A$ tiene sólo no negativo autovalores. Si $A$ fueron negativos autovalores, vamos a $v$ ser su vector propio, y ver el $J(kv)$ $k$ un escalar. Dejando $k\nearrow\infty$ vemos que $J(kv)\searrow -\infty$ y no hay un mínimo. A continuación, si $A$ eran no-vacío del núcleo, de tal manera que existe algún vector $v$ con la propiedad$Av = 0$$\langle b,v\rangle \neq 0$, luego de nuevo a tomar $J(kv)$ y el envío de $k$ a $\pm\infty$, tendremos que el funcional $J$ no está delimitado a continuación.
Por lo $A$ sólo debe tener autovalores positivos. Ahora, vamos a $\lambda$ ser el más pequeño de $A$'s valores propios. Luego tenemos a $\langle x,Ax\rangle > \lambda \|x\|^2$. El uso de Cauchy-Schwarz desigualdad, entonces tenemos
$$ J(x) > \frac12 \lambda \|x\|^2 - \|b\|\|x\| $$
Así vemos que para $\|x\| > 2\|b\| / \lambda$, $J(x) > 0$. Y por la continuidad, $J(x)$ está delimitado a continuación.
Ahora, vamos a $j = \inf J < 0$. (El infimum es negativo, ya que por la elección de $w$ suficientemente pequeño múltiples de $b$, podemos ver que $J(w) < 0$.) Por la definición de infimum, existe una secuencia de vectores $(v_k)$ tal que $J(v_k) \searrow j$. Desde el infimum es menor que 0, por nuestro anterior cálculos sabemos que la secuencia de $(v_k)$ deben satisfacer $\|v_k\| \leq 2\|b\|/\lambda$. Ahora, este conjunto es un almacén cerrado de la bola en un número finito de dimensiones de espacio vectorial. En particular, es compacto. Por lo tanto hasta un subsequence $v_k$ deben converger. Ahora el uso de la continuidad de la $J$, usted tiene que el límite elemento $v_\infty$ de la secuencia alcanza el mínimo. Que es $J(v_\infty) = j$.
Paso 2) calcular el minimizer. Aquí sólo haremos uso de Euler-Lagrange las ecuaciones. En el minimizer, el funcional es estacionaria. Que es $(\frac{\delta}{\delta x}J)(v_\infty) = 0$. Tomando la variación funcional de la $J$, podemos obtener, utilizando de nuevo que $A$ es auto-adjunto, que
$$ \frac{\delta}{\delta x}J = 0 \iff Ax - b = 0 $$
Desde $A$ sólo tiene autovalores positivos, es invertible, por lo que podemos resolver $v_\infty = A^{-1}b$.
Formalmente, podemos tratar de hacer lo mismo en la dimensión infinita. Pero hay un par de advertencias. La primera es que no es suficiente que el $A$ sólo tiene autovalores positivos. Se necesita que la $A$ es coercitivas en el siguiente sentido:
$$ \langle x, Ax\rangle > \lambda \|x\|^2$$
para algunos $\lambda$. En dimensiones finitas que $A$ es positivo implica la existencia de esta $\lambda$. En dimensiones infinitas esto no es cierto. Imaginar la $\ell^2$ espacio de Hilbert con estándar interno producto y el nivel de base $(e_k)$. Deje $Ae_k = \frac1k e_k$. A continuación, $A$ sólo tiene autovalores positivos. Pero tomando más y más $k$'s, podemos hacer que el autovalor se aproxima a 0 tan de cerca como queremos, y violar coercitividad. Coercitividad nos permite garantizar que el funcional $J(x)$ tiene una parte inferior.
El segundo problema es que una cerrada delimitada conjunto en un espacio de Hilbert no es necesariamente compacto. Así que no podemos concluir de inmediato que reducir a un mínimo la secuencia converge en la norma de la topología. Sin embargo, el uso de Banach-Alaoglu teorema, la minimización de la secuencia debe tener un convergentes larga en la topología débil de su espacio de Hilbert. Por lo que es suficiente para demostrar que su funcional $J(x)$ es lo que se llama "débilmente secuencialmente inferior semicontinuo" para obtener la conclusión deseada. (Esa condición sólo garantiza que para cualquier débilmente convergente secuencia $w_k\to_w w_\infty$, $\lim\inf J(w_k) \geq J(w_\infty)$.)
En nuestro caso particular, las cosas pueden ser un poco más fácil. Si queremos, además de asumir que el $A$ es un delimitada operador lineal. Entonces podemos usar $(x,y) = \langle x,Ay\rangle$ como equivalente del interior del producto en nuestro espacio de Hilbert. A continuación, $A^{-1}b$ existe por la representación de Riesz teorema, y nuestra funcional puede ser escrito como $J(x) = \frac12 (x,x) - (A^{-1}b, x)$. Ahora vamos a ejecutar a través de nuestros los argumentos anteriores de nuevo. Ahora $w_k\to_w w_\infty$, y por lo tanto $(A^{-1}b,w_k) \to (A^{-1}b,w_\infty)$ fuertemente por la definición de la debilidad de los límites. Y también hacemos uso de la propiedad de la debilidad de los límites que
$$ \lim\inf (w_k,w_k) \geq (w_\infty,w_\infty)$$
que gurantees inferior semi-continuidad deseada. Así que ahora que hemos demostrado que el minimizer existe, y el cálculo de la variación vemos que el minimizer debe satisfacer $w_\infty = A^{-1}b$.
Así que a repetir, una condición suficiente es que $A$ es auto-adjunto, acotado, y coercitivas.
