Результаты поиска по запросу "apache-spark"

3 ответа

Spark Dataset API - присоединяйтесь

2 ответа

Как создать кодировщик для конструктора типа Option, например, Опция [Int]?

Можно ли использовать

1 ответ

spark.yarn.driver.memoryOverhead или spark.yarn.executor.memoryOverhead используется для хранения данных какого типа?

ТОП публикаций

2 ответа

Spark Build Custom Column Function, определяемая пользователем функция

1 ответ

MC-Стэн на Искре?

Я надеюсь использоватьMC-Стан [http://mc-stan.org/]наискра [http://spark.apache.org/], но, похоже, Google не ищет ни одной связанной страницы. Интересно, возможен ли такой подход на Spark, поэтому я был бы признателен, если бы кто-нибудь дал мне ...

1 ответ

Как использовать функции, предоставляемые классом DataFrameNaFunctions в Spark, на Dataframe?

2 ответа

Читайте целые текстовые файлы из сжатия в Spark

У меня следующая проблема: предположим, что у меня есть каталог, содержащий сжатые каталоги, которые содержат несколько файлов, хранящихся в HDFS. Я хочу соз...

1 ответ

Spark Scala: SELECT в цикле foreach возвращает java.lang.NullPointerException

Мне нужно перебирать содержимое DF с различными инструкциями SELECT внутри цикла foreach, записывая вывод в текстовые файлы. Любой оператор SELECT внутри цик...

2 ответа

PySpark построчная композиция функций

В качестве упрощенного примера у меня есть фрейм данных "df" со столбцами "col1, col2", и я хочу вычислить построчный максимум после прим...

2 ответа

spark: как сделать dropDuplicates на фрейме данных, сохраняя строку с самой высокой отметкой времени [duplicate]

На этот вопрос уже есть ответ здесь:Найти максимальный ряд на группу в Spark DataFrame 2 ответаУ меня есть случай использования, когда мне нужно было бы удал...