Ensembling modelos de regresión

Question

Estoy trabajando en un securities proyecto de precios y tienen un montón de modelos que me gustaría pila/ensemble juntos. He estado usando la regresión lineal simple en R ( lm() función) hasta ahora, pero los resultados son más accesorio bastante mal.

¿Alguien tiene alguna sugerencia por si algún otro método de apilado de que podría ser mejor o cualquiera de los documentos/artículos que describen cómo la pila de modelos de regresión (en oposición a los modelos de clasificación).

Answer 1

Si usted experimenta a lo largo del montaje se puede mirar en la regularización de la regresión que en R se puede ajustar con muchos paquetes tales como (glmnet). Hay muchos buenos tutoriales para esto - uno es la Regularización de las Rutas de acceso para los Modelos Lineales Generalizados a través de Coordenadas Descenso

También puede buscar en randomForest o gbm de R en función de los datos.

Usted puede tratar de montaje de muchos modelos y promediando su predicción (su referencia a los conjuntos).