Árboles de decisión calibrados y potenciados en R o MATLAB

Question

En Comparación empírica de algoritmos de aprendizaje supervisado (ICML 2006), los autores (Rich Caruana y Alexandru Niculescu-Mizil) evaluaron varios algoritmos de clasificación (SVM, RNA, KNN, bosques aleatorios, árboles de decisión, etc.) e informaron de que los árboles potenciados calibrados eran el mejor algoritmo de aprendizaje en ocho métricas diferentes (puntuación F, área ROC, precisión media, entropía cruzada, etc.).

Me gustaría probar árboles de decisión calibrados y reforzados en uno de mis proyectos, y me preguntaba si alguien podría sugerirme un buen paquete R o biblioteca MATLAB para esto.

Soy relativamente nuevo en R, aunque tengo gran experiencia con MATLAB y Python. He leído sobre R gbm , árbol , rparte pero no estoy seguro de si estos paquetes implementan árboles de decisión calibrados y potenciados o si hay otros que los implementen.

Gracias

Answer 1

Sobre R, yo votaría por el gbm hay una viñeta que ofrece una buena visión general: Modelos potenciados generalizados: Guía del paquete gbm . Si busca una interfaz unificada para los algoritmos de ML, le recomiendo el programa caret que incorpora funciones de preprocesamiento de datos, remuestreo y evaluación comparativa del rendimiento de los modelos. En la Tabla 1 de una de las viñetas que la acompañan figuran otros paquetes para árboles reforzados, Funciones de ajuste de modelos, predicción y rendimiento . También hay un ejemplo de ajuste de parámetros para árboles reforzados en la sección Documento JSS , pp. 10-11.

Nota: No lo he comprobado, pero también puedes mirar en Weka (hay una interfaz R, RWeka ).