Estrategia para establecer los parámetros de GBM

Question

Me gustaría saber cómo se establece los parámetros para el modelo de GBM?

1) Yo podría optimizar los parámetros de forma secuencial. En primer lugar, y con un gran valor para la contracción y un pequeño número de iteraciones (para un procesamiento más veloz), me gustaría tratar de optimizar n.minobsinnode, la interacción.profundidad de la bolsa.fracción, etc. A continuación, el uso de estos parámetros, me iba a escala de la skrinkage a menor valor y encontrar el número óptimo de los árboles.

2) Al mismo tiempo, el uso de toneladas de simulaciones del escenario.
Por ejemplo, es posible que la interacción óptima.la profundidad a tener valores diferentes para la contracción 0.01 y 0.001?
Si sí, no estaría bien para fijar algunos parámetros para optimizar los demás...

Answer 1

En teoría pequeña contracción se supone que debe dar un resultado mejor, pero a costa de más iteraciones que se requieren. Cuando he utilizado GBM he asumido que esto es cierto (aunque sin rigor las pruebas).

Sin embargo, no supone que el conjunto óptimo de interacción.profundidad, n.minobsinnode, etc es el mismo para todos los valores de la contracción (después de optimizar el número de iteraciones de cada vez). Posiblemente esto es cierto en algunos casos, y probablemente es aproximadamente cierto en la mayoría de los. Si quieres exprimir realmente el mejor rendimiento posible sin tener en cuenta para el cálculo de costos no quiero hacer de este supuesto en un principio.