La comprensión de los resultados de la regresión ridge

Question

Soy nuevo en regresión ridge. Cuando solicité lineal regresión ridge, obtuve los siguientes resultados:

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0 

Preguntas:

• Es ACEPTAR a cero para GCV?
• ¿Qué significa exactamente?
• Hay un problema con mi modelo?
• ¿Cómo puedo encontrar el $R^2$ valor de myridge?

Answer 1

Usted puede ser mejor con el sancionado paquete o el glmnet paquete; implementar lazo o elástico de la red por lo combina las propiedades de el lasso (selección de función) y la cresta de regresión (manejo de variables colineales). penalizado también hace ridge. Estos dos paquetes son mucho más completo que el de lm.ridge() en la MASA paquete para estas cosas.

De todos modos, $\lambda = 0$ implica que el cero de la pena, de ahí que las estimaciones de mínimos cuadrados son óptimas en el sentido de que no tenía la menor GCV (generalizada de la validación cruzada) la puntuación. Sin embargo, no han permitido suficientemente grande pena; en otras palabras, el menor de los cuadrados de las estimaciones óptimas de el pequeño conjunto de de $\lambda$ valores miró. La trama de la cresta de la ruta (los valores de los coeficientes en función de $\lambda$ y ver si las huellas se han estabilizado o no. Si no, aumentar el rango de $\lambda$ valores evaluados.

Answer 2

La razón por la que usted está recibiendo un 0 GCV es porque utiliza:

myridge = lm.ridge(s ~ ma + sa + lka + cb + ltb , temp, lamda = seq(0,0.1,0.001))

en lugar de

myridge = lm.ridge(s ~ ma + sa + lka + cb + ltb , temp, lambda = seq(0,0.1,0.001))