Как читать несколько строковых элементов в Spark?

Когда вы читаете файл в Spark, используяsc.textfile, это дает вам элементы, где каждый элемент представляет собой отдельную строку. Однако я хочу, чтобы каждый элемент состоял из N строк. Я также не могу использовать разделители, потому что в этом файле их нет. Итак, как я могу заставить искру дать мне несколько линейных элементов?

И я заинтересован в этом, используяNLineInputFormat учебный класс. Возможно ли это сделать в Spark? Я могу видеть примеры этого для MapReduce, но я не имею ни малейшего понятия, как это будет переводиться в Spark.

Ответы на вопрос(1)

Ваш ответ на вопрос