Como converter DataFrame para Dataset no Apache Spark em Java?
Posso converter o DataFrame para o Dataset no Scala com muita facilidade:
case class Person(name:String, age:Long)
val df = ctx.read.json("/tmp/persons.json")
val ds = df.as[Person]
ds.printSchema
mas na versão Java não sei como converter Dataframe em Dataset? Qualquer ideia?
meu esforço é:
DataFrame df = ctx.read().json(logFile);
Encoder<Person> encoder = new Encoder<>();
Dataset<Person> ds = new Dataset<Person>(ctx,df.logicalPlan(),encoder);
ds.printSchema();
mas o compilador diz:
Error:(23, 27) java: org.apache.spark.sql.Encoder is abstract; cannot be instantiated
Editado (solução):solução baseada nas respostas do @ Leet-Falcon:
DataFrame df = ctx.read().json(logFile);
Encoder<Person> encoder = Encoders.bean(Person.class);
Dataset<Person> ds = new Dataset<Person>(ctx, df.logicalPlan(), encoder);