Constante de Lipschitz de una función de matriz

Question

La función viene dada por $f(X) = (AX^{-1}A^\top + B)^{-1}$ donde $X$ , $A$ y $B$ son $n \times n$ matrices definidas positivas.

Estoy tratando de encontrar la constante de Lipschitz tal que $\| f(X)-f(Y) \| \leq L \|X-Y\|$ donde $X \geq 0$ y $Y \geq 0$ . Motivado por el Lemma 3.1 en Nonlinear Systems(H. Khalil, 3rd Ed.), intenté encontrar la derivada de $f(X)$ (es decir $\| \frac{ \partial f(X)}{\partial X} \|$ ) pero no es fácil encontrar la derivada de una función de una matriz sobre una matriz.

¿Cómo puedo encontrar la constante de Lipschitz? o Por favor, indíqueme si existe la forma de calcular la derivada de una función de una matriz.

Answer 1

Dejemos que $h=Y-X$ . Utilizando la expansión de primer orden de la inversa de la matriz, $$ f(X+h)=(A(X^{-1}-X^{-1}hX^{-1})A^\top+B)^{-1}+O(\|h\|^2) $$ Ahora dejemos que $Z=AX^{-1}A^\top+B$ y que $g = AX^{-1}hX^{-1}A^\top$ . Entonces $$ f(X+h)=(Z-g)^{-1}+O(\|h\|^2)=Z^{-1}+Z^{-1}gZ^{-1}+O(\|h\|^2). $$ Desde $Z^{-1}=f(X)$ se deduce que $$ f(X+h)-f(X)=Z^{-1}AX^{-1}hX^{-1}A^\top Z^{-1}+O(\|h\|^2). $$ Utilizando $Z^{-1}AX^{-1}=(XA^{-1}Z)^{-1}=(A^T+XA^{-1}B)^{-1}$ obtenemos que $$ \|Z^{-1}AX^{-1}\|\leq \|A^{-1}\|. $$ De la misma manera, $\|X^{-1}A^\top Z^{-1}\|\leq \|A^{-1}\|$ . En consecuencia, $$ \|f(X+h)-f(X)\|\leq \|A^{-1}\|^2\|h\|+O(\|h\|^2), $$ lo que da lugar a una constante de Lipschitz de $L=\|A^{-1}\|^2$ .

Answer 2

Supongo que $X\ge0$ significa $u^\top X u\ge0$ y que $B$ es positiva definida $$\inf_{\|u\|=1} u^\top B\, u:=\beta>0.$$ También asumo que las normas de las matrices son las normas de los operadores euclidianos.

Calcula el diferencial por la regla de la cadena, como se sugiere en los comentarios de F.Poloni: $$Df(X)H=(AX^{-1}A^{\top}+B)^{-1}AX^{-1}\cdot H\cdot X^{-1}A^{\top}(AX^{-1}A^{\top}+B)^{-1}$$ $$=(A^{\top}+XA^{-1}B)^{-1}\cdot H \cdot(A+BA^{-\top}X)^{-1}=$$ $$=\big(B^\top+Y\big)^{-1}B^\top A^{-\top}\cdot H\cdot A^{-1}B^\top\big(B^\top+Z)^{-1}, $$

donde $Y:=B^{\top}A^{-\top} X A^{-1}B\ge0 $ y $Z:=BA^{-\top}XA^{-1}B^\top\ge0$ , conjugado con $X\ge0$ . Así, para cualquier vector de norma unitaria $u\in\mathbb{R}^n $ $$\big\|\big(B^\top+Y\big)u\big\|\ge u^\top\big(B^\top+Y\big)u\ge u^\top B u \ge\beta$$ y $$\big\|\big(B^\top+Z)u\big\|\ge u^\top\big(B^\top+Z)u \ge u^\top B u \ge\beta.$$ Por lo tanto, $$\big\|\big(B^\top+Y\big)^{-1}\big\|\le \beta^{-1}$$ y $$\big\|\big(B^\top+Z)^{-1}\big\|\le \beta^{-1}.$$ Por lo tanto, $$\|Df\|_\infty\le\|B\|^2\|A^{-1}\|^2\beta^{-2}$$ que también es una constante de Lipschitz para $f$ ya que su dominio es convexo, $\{X\ge0\}$ .

$$*$$

Rmk. Los límites anteriores de la $L_2$ Las normas de los operadores (u otras normas matriciales) podrían mejorarse, pero no hasta $$\big\|\big(A^{\top}+XA^{-1}B\big)^{-1}\big\|\le\big\|A^{-1}\big\|,$$ incluso para simétrico matrices positivas definidas. Tomemos por ejemplo $n=2$ y $$A=:I=\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}\quad X:=\begin{bmatrix} 5/2 & 1 \\ 1 & 1/2 \end{bmatrix}\quad B:=\begin{bmatrix} 1 & -1/2 \\ -1/2 & 1/2 \end{bmatrix}$$

Entonces $$\big(A^{\top}+XA^{-1}B\big)^{-1}=\big(I+XB\big)^{-1}= \begin{bmatrix} 4/15 & 4/15\\ -4/15 & 16/15 \end{bmatrix}$$ cuyo valor singular máximo es $\displaystyle{2\over 15}\sqrt{29}+{2\over 5}>1=\|A^{-1}\|$ . Lo mismo ocurre con las normas de Frobenius y otras normas comunes de entrada (debido al coeficiente $16/15>1$ ).