Spark: добавить столбец в dataframe условно
Я пытаюсь взять свои входные данные:
A B C
--------------
4 blah 2
2 3
56 foo 3
И добавьте столбец в конец, основываясь на том, пусто B или нет:
A B C D
--------------------
4 blah 2 1
2 3 0
56 foo 3 1
Я могу легко это сделать, зарегистрировав входной фрейм данных как временную таблицу, а затем напечатав SQL-запрос.
Но мне бы очень хотелось узнать, как это сделать, используя только методы Scala и не нужно вводить SQL-запрос в Scala.
я пробовал.withColumn
, но я не могу заставить это делать то, что я хочу.