¿Por qué no utilizar siempre el aprendizaje conjunto?

Question

Me parece que el aprendizaje conjunto siempre dará mejor rendimiento predictivo que con sólo una hipótesis de aprendizaje individual.

Así que, ¿por qué no utilizamos todo el tiempo?

¿Mi conjetura es debido tal vez, computacional limitaciones? (incluso entonces, utilizamos predictores débiles, así que no sé).

Answer 1

En general no es cierto que siempre va a funcionar mejor. Hay varias conjunto de métodos, cada uno con sus propias ventajas y desventajas. El que desea utilizar y, a continuación, depende del problema en cuestión.

Por ejemplo, si usted tiene modelos con alta varianza (sobre-ajuste de los datos), entonces es probable que usted beneficiarse del uso de embolsado. Si usted ha sesgado los modelos, es mejor combinar el uso de ellos con el turbo. También hay diferentes estrategias para formar conjuntos. El tema es demasiado amplio para cubrir en una sola respuesta.

Pero mi punto es: si se acude a un conjunto de método para su configuración, usted no va a hacer mejor. Por ejemplo, el uso de Embolsado con una visión sesgada modelo no va a ayudar.

También, si usted necesita para trabajar en un probabilística de la configuración, el conjunto de métodos no funcionen bien. Es conocido que el Impulso (en sus formas más populares como AdaBoost) ofrece buenos estimaciones de la probabilidad. Es decir, si a usted le gustaría tener un modelo que permite razonar sobre los datos, no sólo de la clasificación, podría ser mejor con un modelo gráfico.