TaskSchedulerImpl: начальное задание не приняло никаких ресурсов;
Вот что я пытаюсь сделать.
Я создал два узла корпоративного кластера DataStax, поверх которого я создал программу Java, чтобы получить счетчик одной таблицы (таблица базы данных Cassandra).
Эта программа была построена в Eclipse, которая на самом деле из окна Windows.
Во время запуска этой программы из окон происходит сбой со следующей ошибкой во время выполнения:
Начальная работа не приняла никаких ресурсов; проверьте интерфейс кластера, чтобы убедиться, что работники зарегистрированы и имеют достаточно памяти
Тот же код был скомпилирован и успешно запущен на этих кластерах без каких-либо проблем. Что может быть причиной, почему я получаю выше ошибки?
Код:
import org.apache.spark.SparkConf;
import org.apache.spark.SparkContext;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.sql.SchemaRDD;
import org.apache.spark.sql.cassandra.CassandraSQLContext;
import com.datastax.bdp.spark.DseSparkConfHelper;
public class SparkProject {
public static void main(String[] args) {
SparkConf conf = DseSparkConfHelper.enrichSparkConf(new SparkConf()).setMaster("spark://10.63.24.14X:7077").setAppName("DatastaxTests").set("spark.cassandra.connection.host","10.63.24.14x").set("spark.executor.memory", "2048m").set("spark.driver.memory", "1024m").set("spark.local.ip","10.63.24.14X");
JavaSparkContext sc = new JavaSparkContext(conf);
CassandraSQLContext cassandraContext = new CassandraSQLContext(sc.sc());
SchemaRDD employees = cassandraContext.sql("SELECT * FROM portware_ants.orders");
//employees.registerTempTable("employees");
//SchemaRDD managers = cassandraContext.sql("SELECT symbol FROM employees");
System.out.println(employees.count());
sc.stop();
}
}