¿Por qué las columnas cambian a nulables en Apache Spark SQL?

Por que esnullable = true se usa después de ejecutar algunas funciones, aunque no haya valores NaN enDataFrame.

val myDf = Seq((2,"A"),(2,"B"),(1,"C"))
         .toDF("foo","bar")
         .withColumn("foo", 'foo.cast("Int"))

myDf.withColumn("foo_2", when($"foo" === 2 , 1).otherwise(0)).select("foo", "foo_2").show

Cuandodf.printSchema se llama ahoranullable estaránfalse para ambas columnas

val foo: (Int => String) = (t: Int) => {
    fooMap.get(t) match {
      case Some(tt) => tt
      case None => "notFound"
    }
  }

val fooMap = Map(
    1 -> "small",
    2 -> "big"
 )
val fooUDF = udf(foo)

myDf
    .withColumn("foo", fooUDF(col("foo")))
    .withColumn("foo_2", when($"foo" === 2 , 1).otherwise(0)).select("foo", "foo_2")
    .select("foo", "foo_2")
    .printSchema

Sin embargo ahoranullable estrue para al menos una columna que erafalse antes de. ¿Cómo se puede explicar esto?

Respuestas a la pregunta(2)

Su respuesta a la pregunta