Resolución de una penalización de cresta dado un modelo ajustado

Question

Esto es un poco embarazoso; una vez supe estas cosas y las he olvidado. Tengo una regresión de cresta ajustada:

$$ \hat\beta = \left(X'X+\lambda\right)^{-1}X'y $$ X es n por k

y es n por 1

$\lambda$ es k por k

$\hat\beta$ es k por 1

La matriz invertida es invertible.

¿Cómo resuelvo la lambda? Tengo los datos $X,y$ y los parámetros $\hat\beta$

Edición: información potencialmente útil: las penalizaciones de cresta suelen ser un vector multiplicado por una matriz de identidad. Pero en este problema no puedo suponer que los diagonales sean cero.

Edición 2: La respuesta debería haber sido obvia. Un modelo ajustado implica una estimación $V_p$ matriz. Divida por el parámetro de dispersión estimado y cualquier corrección de grados de libertad, y tendrá $(X'X+\lambda)^{-1}$ . invertir y obtener $\lambda$ .

Answer 1

Supongo que $\lambda$ es una matriz diagonal.

$$ \lambda \hat\beta + X'X\hat\beta = X'y $$

Lo tienes: $$ \lambda_i= \frac1{ \hat\beta_i} \left\{\sum_k X_{ki}y_k - \sum_{k,l} X_{ki}X_{kl}\hat\beta_l\right\} $$ siempre y cuando $\hat\beta_i\neq 0$ .