2 votos

¿Los pesos de las hojas en XGBoost son equivalentes a los valores de salida?

Necesito explicar tanto el XGBoost como el GBM en el mismo texto y quiero mantener la coherencia de la notación. Friedman (2002) utiliza $\gamma$ para denotar los valores de salida de las hojas en GBM. Chen y Guestrin (2016) utilizan $w$ para denotar lo que denominan "pesos de las hojas". Por lo que he entendido del texto correctamente, eso es sólo un sinónimo de valores de salida, lo que significa que debería usar el mismo símbolo para $\gamma$ y $w$ . ¿Estoy en lo cierto o he entendido algo mal?

Friedman (2002): https://www.researchgate.net/publication/222573328_Stochastic_Gradient_Boosting

Chen y Guestrin (2016): https://arxiv.org/pdf/1603.02754.pdf

2voto

Rob Van Dam Puntos 5073

Eso es correcto.

Y eso es demasiado corto para una respuesta, así que fíjate en el documento de xgboost, sección 2.1 se refieren inicialmente a $w_i$ como puntuaciones y

calcular la predicción final sumando la puntuación en las hojas correspondientes (dada por $w$ ).

En la sección 2.2 se refieren por primera vez a ellos como "pesos de la hoja".

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X