Результаты поиска по запросу "spark-streaming"

1 ответ

Spark Stateful Streaming Job зависает на контрольной точке на S3 после длительного времени безотказной работы

Недавно я проводил стресс-тестирование нашего приложения Spark Streaming. Стресс-тестирование потребляет около 20 000 сообщений в секунду с размерами сообщен...

2 ответа

ForeachRDD выполняется на драйвере?

Я пытаюсь обработать некоторые данные XML, полученные в очереди JMS (QPID), используя потоковую передачу Spark. После получения XML в качестве DStream я прео...

1 ответ

java.io.NotSerializableException в потоковой передаче Spark с включенной контрольной точкой

код ниже:

ТОП публикаций

1 ответ

Пул соединений в приложении потокового pyspark

Как правильно использовать пулы соединений в приложении потокового pyspark?Я прочиталhttps://forums.databricks.com/questions/3057/how-to-reuse-database-sessi...

0 ответов

Spark Dataframe проверяет имена столбцов для записи паркета (scala)

1 ответ

Прочитайте тему Кафки в пакетном задании Spark

1 ответ

Кафка разделов разделов к Spark streaming

У меня есть несколько вариантов использования, которые я хотел бы прояснить, о разделении тем Kafka -> использование ресурсов потоковой передачи.Я использ...

2 ответа

Spark Streaming: как не перезапускать приемник после сбоя приемника

Мы используем специальный искровой приемник, который считывает потоковые данные по предоставленной http-ссылке. Если предоставленная ссылка http неверна, пол...

0 ответов

Подготовить пакетный оператор для хранения всех rdd в mysql, сгенерированных из потокового потока

1 ответ

получить тему из сообщения кафки в искре