Cómo mostrar $x_* \in R(A^T) +z $ es el minimizador global de $\min \frac{1}{2}\|x-z\|_2^2$ en $Ax=b$ ?

Question

Considere el siguiente problema:

$$ \min_{Ax=b} \frac{1}{2}\|x-z\|_2^2 $$ donde $z \in \mathbb{R}^{n}$ es un vector dado, $x \in \mathbb{R}^{n}$ , $A \in \mathbb{R}^{m \times n}$ y $b \in \mathbb{R}^{m}$ .

Sabemos que el problema es un problema convexo, porque la restricción es afín y la función objetivo es convexa. Además, la función objetivo es fuertemente convexa por lo que el problema tiene un único minimizador global. Si suponemos que $x_*$ es el minimizador global, entonces utilizando la desigualdad variacional podemos demostrar que $x_* \in R(A^T) +z $ .

Mi pregunta es la inversa:

Demuestre que para $x_* \in S$ , $x_* \in R(A^T) +z $ es el minimizador global de $\min \frac{1}{2}\|x-z\|_2^2$ en $Ax=b$ ?

Answer 1

$$ x_* -z \in R(A^T)=\{N(A)\}^{\perp} $$

Por lo tanto, todo vector en el espacio nulo de $A$ es perpendicular a $x_*-z$ . Así que,

$$ \langle x_*-z, y \rangle = 0 \,\,\, \forall y \in N(A) \tag{1} $$

Desde $x_* \in S$ , $Ax_*=b$ y $Ax=b\,\,\, \forall x \in S$ . Por lo tanto,

$$ N(A)= \{x-x_* \mid x \in S\} $$

Así, a partir de (1) $\langle x_*-z, x_* -x \rangle = 0 \,\,\, \forall x \in S$ .

Dejemos que $y=x_*-z$ y $w=x_* -x$ así que $\langle y,w \rangle=0$ , pitagórico para $y,w$ rinde

$$ \|y-w\|^2=\|y\|^2+\|w\|^2 \rightarrow \|x-z\|^2=\|x_*-z\|^2+\|x_* -x\|^2 \,\,\forall x \in S $$

Por lo tanto,

$$ \|x_*-z\|^2 \leq \|x-z\|^2 \,\,\forall x \in S $$

Por lo tanto, $x_*$ es el minimizador global.