Spark RDD a DataFrame Python

Estoy tratando de convertir el Spark RDD en un DataFrame. He visto la documentación y el ejemplo donde se pasa el esquema asqlContext.CreateDataFrame(rdd,schema) función.

Pero tengo 38 columnas o campos y esto aumentará aún más. Si doy manualmente el esquema que especifica la información de cada campo, será un trabajo muy tedioso.

¿Hay alguna otra forma de especificar el esquema sin conocer la información de las columnas antes?

Respuestas a la pregunta(2)

Su respuesta a la pregunta