несколько условий для фильтрации в кадрах искровых данных
У меня есть фрейм данных с четырьмя полями. одним из названий полей является Status, и я пытаюсь использовать условие OR в .filter для фрейма данных. Я попробовал ниже вопросы, но не повезло.
df2 = df1.filter(("Status=2") || ("Status =3"))
df2 = df1.filter("Status=2" || "Status =3")
Кто-нибудь использовал это раньше. Я видел похожий вопрос о переполнении стекаВот , Они использовали приведенный ниже код для использования условия ИЛИ. Но этот код для pyspark.
from pyspark.sql.functions import col
numeric_filtered = df.where(
(col('LOW') != 'null') |
(col('NORMAL') != 'null') |
(col('HIGH') != 'null'))
numeric_filtered.show()