Suponha que eu tenha o seguinte spark-dataframe:

+-----+-------+
| word|  label|
+-----+-------+
|  red|  color|
|  red|  color|
| blue|  color|
| blue|feeling|
|happy|feeling|
+-----+-------+

Que pode ser criado usando o seguinte código:

sample_df = spark.createDataFrame([
        ('red', 'color'),
        ('red', 'color'),
        ('blue', 'color'),
        ('blue', 'feeling'),
        ('happy', 'feeling')
    ],
    ('word', 'label')
)

Eu posso realizar umagroupBy() para obter as contagens de cada par de rótulos de palavras:

sample_df = sample_df.groupBy('word', 'label').count()
#+-----+-------+-----+
#| word|  label|count|
#+-----+-------+-----+
#| blue|  color|    1|
#| blue|feeling|    1|
#|  red|  color|    2|
#|happy|feeling|    1|
#+-----+-------+-----+

E depoispivot() esum() para obter o rótulo conta como colunas:

import pyspark.sql.functions as f
sample_df = sample_df.groupBy('word').pivot('label').agg(f.sum('count')).na.fill(0)
#+-----+-----+-------+
#| word|color|feeling|
#+-----+-----+-------+
#|  red|    2|      0|
#|happy|    0|      1|
#| blue|    1|      1|
#+-----+-----+-------+

Qual é a melhor maneira de transformar issodataframe de modo que cada linha seja dividida pelo total dessa linha?

# Desired output
+-----+-----+-------+
| word|color|feeling|
+-----+-----+-------+
|  red|  1.0|    0.0|
|happy|  0.0|    1.0|
| blue|  0.5|    0.5|
+-----+-----+-------+

Uma maneira de alcançar esse resultado é usar__builtin__.sum (NÃOpyspark.sql.functions.sum) para obter a soma das linhas e depois chamarwithColumn() para cada etiqueta:

labels = ['color', 'feeling']

sample_df.withColumn('total', sum([f.col(x) for x in labels]))\
    .withColumn('color', f.col('color')/f.col('total'))\
    .withColumn('feeling', f.col('feeling')/f.col('total'))\
    .select('word', 'color', 'feeling')\
    .show()

Mas deve haver uma maneira melhor do que enumerar cada uma das colunas possíveis.

De maneira mais geral, minha pergunta é:

Como posso aplicar uma transformação arbitrária, que é uma função da linha atual, a várias colunas simultaneamente?