10 votos

Regularización de Tikhonov frente a SVD truncado

Para encontrar $\mathbf{x}$ tal que

$$A\mathbf{x}=\mathbf{b}$$

podemos utilizar los mínimos cuadrados cuando el problema no está bien planteado. Además, podemos utilizar la regularización de Tikhonov cuando $A$ está mal condicionada. En la regularización de Tikhonov, minimizamos

$$\|A\mathbf{x}-\mathbf{b}\|_2^2+\|\Gamma\mathbf{x}\|_2^2$$

donde $\Gamma$ determina las propiedades de regularización. Como alternativa, podemos utilizar la SVD truncada de $A$ para encontrar el pseudoinverso. Para la SVD $A=U\Sigma V^T$ el SVD truncado es

$$U\Sigma_kV^T$$

donde $\Sigma_k$ se compone del primer $k$ valores singulares. Truncar el SVD proporciona otro medio de regularización al producir soluciones con normas más pequeñas.

¿Cuándo la regularización de Tikhonov es similar (o incluso igual) a la utilización del SVD truncado?

12voto

Syed Alam Abbas Puntos 83

Consideremos la SVD del $N\times N$ matriz A sea, $$A = U\Sigma V^T$$ donde U y V son matrices ortogonales, y $\Sigma$ es una matriz diagonal con entradas $$\sigma_1 \geq \sigma_2 \geq \cdots \geq \sigma_N \geq 0$$ Para una matriz mal condicionada $A$ todos los valores singulares decaen gradualmente hasta llegar a cero y el número de condición, es decir

$cond(A)= \frac{\sigma_1}{\sigma_N}$ es muy grande.

El enfoque SVD (también conocido como filtrado espectral) consiste en amortiguar los efectos causados por la división por los valores singulares pequeños. $$x_{naive} = A^{-1}b= V\Sigma^{-1}U^Tb = \sum_{i=1}^{N}\frac{u_i^Tb}{\sigma_i}v_i $$

El método TSVD es un ejemplo de la clase general de métodos que se denominan métodos de filtrado espectral, que tienen forma, $$x_{filt} = \sum_{i=1}^{N}\phi_i\frac{u_i^Tb}{\sigma_i}v_i $$ donde los factores de filtrado $\phi_i$ se eligen de forma que $\phi_i \approx 1$ para valores singulares grandes, y $\phi_i \approx 0$ para valores singulares pequeños.

Ahora mira las ecuaciones del filtro,

$\bf{The~TSVD~Method}$ $$\phi_i = 1, i = 1,\cdots, k $$ $$= 0, otherwise$$ El parámetro $k < N$ se denomina parámetro de truncamiento.

$\bf{The~Tikhonov~Method}$ $$\phi_i = \frac{\sigma_i^2}{\sigma_i^2 + \alpha^2}, i = 1,\cdots, N $$ El parámetro $\alpha > 0$ se denomina parámetro de regularización. Esta elección de los factores de filtrado produce el vector solución $x_{\alpha}$ para el problema de minimización, $min_x { ||b-Ax||^2_2 + \alpha^2 ||x||_2^2}$ .

Para responder a su pregunta, "cuando la regularización de Tikhonov se vuelve similar(o igual) a la TSVD", podemos ver que como $\alpha \rightarrow 0$ , $\phi_i \rightarrow 1$ que son los coeficientes del filtro, y el método de Tikhonov se vuelve similar al TSVD. Se puede pensar en este filtrado como, TSVD utiliza un filtro con un salto brusco de 0 a 1 y Tikhonov utilizando un enfoque más suave (sí evita oscilaciones a la solución.) Para más detalles ver Espectros y filtrado .

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X