Como usar a função de ordem superior da transformação?
É sobretransform
função de ordem superior https: //issues.apache.org/jira/browse/SPARK-2390).
Existe alguma maneira de usá-lo como uma função padrão (no pacoteorg.apache.spark.sql.functions._
)?
Tenho uma matriz de seqüências de caracteres e quero aplicar a normalização de URI a cada uma delas. Por enquanto eu fiz isso com uma UDF. Eu apenas esperava que com o spark 2.4.0 eu fosse capaz de pular a UD
Como vejo que deve ser usado emselectExpr
gostardf.selectExpr("transform(i, x -> x + 1)")
, mas deve ser usado apenas comselectExpr
?
Utilizá-lo dessa maneira, existe uma maneira de fornecer uma função personalizada para a transformação? Existe alguma maneira de alcançá-lo ou devo recorrer ao uso de boas UDFs antigas?