Sparklyr: use group_by e concatene seqüências de caracteres de linhas em um grupo
Eu estou tentando usar as funções group_by () e mutate () no sparklyr para concatenar linhas em um grupo.
Aqui está um exemplo simples que acho que deve funcionar, mas não funciona:
library(sparkylr)
d <- data.frame(id=c("1", "1", "2", "2", "1", "2"),
x=c("200", "200", "200", "201", "201", "201"),
y=c("This", "That", "The", "Other", "End", "End"))
d_sdf <- copy_to(sc, d, "d")
d_sdf %>% group_by(id, x) %>% mutate( y = paste(y, collapse = " "))
O que eu gostaria que produzisse é:
Source: local data frame [6 x 3]
Groups: id, x [4]
# A tibble: 6 x 3
id x y
<fctr> <fctr> <chr>
1 1 200 This That
2 1 200 This That
3 2 200 The
4 2 201 Other End
5 1 201 End
6 2 201 Other End
Estou tendo o erro a seguir:
Error: org.apache.spark.sql.AnalysisException: missing ) at 'AS' near '' '' in selection target; line 1 pos 42
Observe que o uso do mesmo código em um data.frame funciona bem:
d %>% group_by(id, x) %>% mutate( y = paste(y, collapse = " "))