La combinación de análisis de componentes principales y mínimos cuadrados parciales

Question

Sé PCA y PLS se considera como método alternativo para cada uno de los otros. Pero estoy pensando en una especie de combinación de los dos en el caso de muchos de los predictores con poca variabilidad.

En ese caso, cuando ejecuto 1-componente PLS con los originales de los predictores, que no produce un efecto significativo en el modelo de términos de predicción. Pero si soy la primera calcular 10-20 PCA componentes y de ejecución de 1-componente PLS con los PC puntuaciones como predictores, en la práctica, el modelo es bastante bueno en términos de poder de predicción. Pero me gustaría saber por qué.

¿Alguien puede explicar por qué esto es mejor que el de 1-componente PLS con el original predictores?

Answer 1

La razón por la que 1-componente PLS pierde a 1-componente PLS basado en los primeros 10-20 PCA componentes es que, en el primer caso, la estructura de las correlaciones entre las variables originales se perdió parcialmente (desde el 1-componente PLS dirección es elegido sólo se basa en las correlaciones entre las variables de entrada y la variable de resultado). En el último caso, a pesar de todos los PCA variables no están correlacionadas entre sí, que hace de 1-componente PLS equivalente a la de regresión de mínimos cuadrados (OLS), basado en el PCA variables (es decir, no se pierde información, aparte de perder el resto de la PCA de las direcciones que no son muy informativos de todos modos)

En cualquier caso, de que el poder de predicción de la perspectiva, en realidad no tiene sentido limitar el número de componentes PLS (o PCR) a la vez que el número de componentes PLS/rcp debe ser tratada como una "meta" parámetro que debe ajustarse el uso de remuestreo (por ejemplo, utilizando el paquete caret , que proporciona un buen arnés para que)