Límite de la matriz inversa:$\lim_{\lambda \to \infty} (A + \lambda I)^{-1} = \mathbf{0}$?

Question

Vamos matriz $A \in \mathbb{R}^{n\times n}$ ser positivo semidefinite.

• Entonces es verdadero que $$ (A + \lambda I)^{-1} \\mathbf{0} \quad (\lambda \to \infty) \quad ? $$

• Si es así, es el hecho de que $A$ es positiva definida irrelevante aquí?

---

Mis pensamientos hasta el momento: $$ (A + \lambda I)^{-1} = \Big(\lambda( \frac{1}{\lambda} + I ) \Big)^{-1} = \frac{1}{\lambda} \Big(\frac{1}{\lambda} + I \Big)^{-1} $$ Creo que $\lim_{\lambda \to \infty} \Big( \frac{1}{\lambda}A + I \Big)^{-1} = I^{-1} = I$, pero no sé si me puede pasar el $\lim$ a través de la inversa de la $(\cdot)^{-1}$ como eso. Si este es el caso, entonces $$ \lim_{\lambda \to \infty} (A + \lambda I)^{-1} = \lim_{\lambda \to \infty} (1/\lambda) \lim_{\lambda \to \infty} (\lambda + I)^{-1} = 0 \cdot I = \mathbf{0} $$ como me gustaría mostrar.

---

De dónde proviene:

Estoy tratando de justificar una afirmación hecha en un econometría conferencia. Es decir,

$$ \textrm{Var}(\hat{\beta}^{\textrm{ridge}}) = \sigma^2 (X^{T}X + \lambda I)^{-1} X^T X [(X^T X + \lambda I)^{-1}]^T \a \mathbf{0} $$ donde $\hat{\beta}^\textrm{ridge}$ es el estimador ridge en un modelo lineal, $X \in \mathbb{R}^{n \times p}$ es el diseño de la matriz, y la igualdad es conocida. El límite, sin embargo, no estaba justificado.

Answer 1

Los autovalores de a$A+\lambda I$ son de la forma $\lambda+\mu$, donde $\mu$ es un autovalor de a$A$ (necesariamente real). Entonces, para $\lambda$ suficientemente grande, los autovalores de a$A+\lambda I$ son todos los $>1$.

Tenga en cuenta que una matriz de $S$ que diagonalizes $A$ también diagonalizes $A+\lambda I$, vamos a $A=SDS^{-1}$, $D$ diagonal.

A continuación, $(A+\lambda I)^{-1}$ es diagonalizable con valores propios en $(0,1)$ y por lo tanto $$ \lim_{\lambda\to\infty}(A+\lambda I)^{-1}= S\Bigl(\,\lim_{\lambda\to\infty}(D+\lambda I)^{-1}\Bigr)S^{-1}=0 $$ No es necesario que $A$ es semipositive definitiva. Cualquier matriz simétrica va a hacer.

Answer 2

La respuesta que más me gustó fue dejar en los comentarios por астон вілла олоф мэллбэрг, porque muestra que la $A$ no necesita ninguna estructura especial. Aquí estoy tirando de su respuesta hacia abajo y incluso un poco más de detalle.

---

Tenemos $$ (A + \lambda I)^{-1} = \Big(\lambda( \frac{1}{\lambda} + I ) \Big)^{-1} = \frac{1}{\lambda} \Big(\frac{1}{\lambda} + I \Big)^{-1}, $$ y pretendemos que $\Big(\frac{1}{\lambda}A + I \Big)^{-1} \to I^{-1} = I \quad (\lambda \to \infty)$. Por lo tanto, $$ (A + \lambda I)^{-1} = \frac{1}{\lambda} \Big(\frac{1}{\lambda} + I \Big)^{-1} \0 \cdot I = \mathbf{0} \quad (\lambda \to \infty), $$ cual fue el resultado deseado.

Completamos la prueba mostrando la reclamación. Desde $GL_n(\mathbb{R})$ es abierto en $M_n(\mathbb{R})$, nos encontramos con algunos $\epsilon > 0 $ tal que el open de bola de $B(I, \epsilon) \subseteq GL_n(\mathbb{R})$. Por lo tanto, para suficientemente grande $\lambda$, sabemos que $(A/\lambda + I) \in B(I, \epsilon) \subseteq GL_n(\mathbb{R})$. También saber que $(\cdot)^{-1} : GL_n \to GL_n$ es continua, tenemos $$ \lim_{\lambda \to \infty}\Big(\frac{1}{\lambda} + I \Big)^{-1} = \Big(\lim_{\lambda \to \infty} \frac{1}{\lambda} + I \Big)^{-1}= (I)^{-1} = I, $$ lo que completa la prueba.

---

Para entender el vinculado con la prueba de la continuidad de la $(\cdot)^{-1}$, ver aquí para la justificación de que el factor determinante del operador es continuo y aquí para la justificación de que el adjunto del operador es continua.