Algoritmos de aprendizaje automático embarazosamente paralelos

Question

¿Qué algoritmos de aprendizaje son "vergonzosamente paralelos"? Empezaré con el ejemplo obvio del documentación foreach :

rf <- foreach(ntree = rep(250, 4), .combine = combine, .packages = "randomForest") %dopar%
 randomForest(x, y, ntree = ntree)

¿Qué más hay por ahí que se pueda paralelizar fácilmente con foreach ?

Answer 1

El embolsado es vergonzosamente paralelo :

bagging<-function(training,testing,length_divisor=4,iterations=1000)
{
predictions<-foreach(m=1:iterations,.combine=cbind) %do% {
training_positions <- sample(nrow(training), size=floor((nrow(training)/length_divisor)))
train_pos<-1:nrow(training) %in% training_positions
lm_fit<-lm(y~x1+x2+x3,data=training[train_pos,])
predict(lm_fit,newdata=testing)
}
rowMeans(predictions)
}

Código de R, Ruby y Finanzas