Estoy utilizando la regresión de red elástica para construir modelos explicativos de medidas de resultados clínicos utilizando predictores mutuamente correlacionados. En la regresión de red elástica, ¿la elección del parámetro de regularización (Lambda) mediante validación cruzada, para minimizar el MSE, evita el sobreajuste? ¿Proporcionan los grados de libertad una indicación de sobreajuste cuando N es pequeño?
Respuesta
¿Demasiados anuncios?
jasonmray
Puntos
1303
Más a menudo, reduce el sobreajuste al reducir las estimaciones de los coeficientes. Pero la estimación del MSE más bajo validado cruzadamente sobre el parámetro de regularización es optimista cuando se toma como una estimación del rendimiento fuera de la muestra del modelo utilizando ese valor del parámetro de regularización; aunque no suele ser por mucho, ya que la optimización está muy restringida. Utilice la validación cruzada o la validación bootstrap de todo el procedimiento para estimar cuánto.