Debiasing después de LASSO en R

Question

Estoy haciendo un análisis de aprendizaje automático (Lasso) en R.

Lasso introduce un sesgo, y he oído que puedo recuperar estimaciones de coeficientes menos sesgadas (o no sesgadas) mediante métodos de desviación. ¿Hay algún paquete de R que pueda hacer esto? También puedo usar Python.

Answer 1

3 formas que puedo sugerir para obtener estimaciones menos sesgadas sin dejar de realizar la selección de características (utilizando LASSO/L1 como regularización):

1. Realice un ajuste de mínimos cuadrados ordinarios en las características seleccionadas por un modelo LASSO.

2. El relaxnet para R. Esto se ajusta a un paquete ' relajado LASSO ', que le proporciona otro hiperparámetro que puede utilizar para "controlar" el sesgo.

3. Utilice SCAD o el MC+ estimadores disponibles en el ncvreg que puede utilizar algunas funciones de regularización ligeramente más avanzadas que dan lugar a estimaciones menos sesgadas.