Por que o pacote paralelo é mais lento do que apenas usar apply?
Estou tentando determinar quando usar oparallel
pacote para acelerar o tempo necessário para executar algumas análises. Uma das coisas que preciso fazer é criar matrizes comparando variáveis em dois quadros de dados com um número diferente de linhas. Eu fiz uma pergunta sobre uma maneira eficiente de fazerStackOverflow e escreveu sobre testes no meublog. Como estou confortável com a melhor abordagem, eu queria acelerar o processo executando-o em paralelo. Os resultados abaixo são baseados em um 2ghz i7 Mac com 8GB de RAM. Eu estou surpreso que oparallel
pacote, oparSapply
funciton em particular, é pior do que apenas usando oapply
função. O código para replicar isso está abaixo. Note que atualmente eu estou usando apenas uma das duas colunas que eu criei, mas eventualmente quero usar ambas.
Tempo de Execução http://jason.bryer.org/images/ParalleVsApplyTiming.png
require(parallel)
require(ggplot2)
require(reshape2)
set.seed(2112)
results <- list()
sizes <- seq(1000, 30000, by=5000)
pb <- txtProgressBar(min=0, max=length(sizes), style=3)
for(cnt in 1:length(sizes)) {
i <- sizes[cnt]
df1 <- data.frame(row.names=1:i,
var1=sample(c(TRUE,FALSE), i, replace=TRUE),
var2=sample(1:10, i, replace=TRUE) )
df2 <- data.frame(row.names=(i + 1):(i + i),
var1=sample(c(TRUE,FALSE), i, replace=TRUE),
var2=sample(1:10, i, replace=TRUE))
tm1 <- system.time({
df6 <- sapply(df2$var1, FUN=function(x) { x == df1$var1 })
dimnames(df6) <- list(row.names(df1), row.names(df2))
})
rm(df6)
tm2 <- system.time({
cl <- makeCluster(getOption('cl.cores', detectCores()))
tm3 <- system.time({
df7 <- parSapply(cl, df1$var1, FUN=function(x, df2) { x == df2$var1 }, df2=df2)
dimnames(df7) <- list(row.names(df1), row.names(df2))
})
stopCluster(cl)
})
rm(df7)
results[[cnt]] <- c(apply=tm1, parallel.total=tm2, parallel.exec=tm3)
setTxtProgressBar(pb, cnt)
}
toplot <- as.data.frame(results)[,c('apply.user.self','parallel.total.user.self',
'parallel.exec.user.self')]
toplot$size <- sizes
toplot <- melt(toplot, id='size')
ggplot(toplot, aes(x=size, y=value, colour=variable)) + geom_line() +
xlab('Vector Size') + ylab('Time (seconds)')