Resultados da pesquisa a pedido "hadoop"

1 a resposta

Erro ao executar o Mapreduce (fios) no eclipse do windows

Estou executando um programa WordCount no meu eclipse. Eu tentei com o Hadoop1.x ele está funcionando bem. Problema enfrentado durante a execução no hadoop2.x Eu tentei 1) adicionou todos os xml no meu caminho de classe. 2) também ...

2 a resposta

qual é o significado do espaço para nome e dos metadados usados nos hdfs (namenode)

Como iniciante no hadoop, estou confuso com essas palavras namespace e metadados. Existe alguma relação entre esses dois?

1 a resposta

Escreva e leia matrizes de bytes brutos no Spark - usando o arquivo de sequência SequenceFile

Como você escreveRDD[Array[Byte]] para um arquivo usando o Apache Spark e lê-lo novamente?

2 a resposta

Qual é a relação entre 'mapreduce.map.memory.mb' e 'mapred.map.child.java.opts' no Apache Hadoop YARN?

Eu gostaria de saber a relação entre omapreduce.map.memory.mb emapred.map.child.java.opts parâmetros. Émapreduce.map.memory.mb > mapred.map.child.java.opts? Obrigado, Kewal.

3 a resposta

java.lang.NoSuchFieldError: IBM_JAVA para um cliente java hbase simples no Eclipse

Como o título diz: Meu código-fonte é: package hbase; import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.HBaseConfiguration; import org.apache.hadoop.hbase.HColumnDescriptor; ...

3 a resposta

Grave em várias saídas com a chave Scalding Hadoop, uma tarefa MapReduce

Como você pode gravar em várias saídas dependentes da chave usando Scalding (/ em cascata) em um único trabalho de redução de mapa. Eu poderia, é claro, usar.filter para todas as chaves possíveis, mas esse é um truque horrível, que acionará ...

10 a resposta

Grave em várias saídas com a chave Spark - um trabalho do Spark

Como você pode gravar em várias saídas dependentes da chave usando o Spark em um único trabalho. Relacionado:Grave em várias saídas com a chave Scalding Hadoop, uma ...

2 a resposta

Como passar a variável conf Hive no hive udf?

Eu quero passar a variável conf da seção para a UDF. abaixo está um trecho de código. hive -f ../hive/testHive.sql -hivevar testArg=${testArg}Abaixo está a chamada da colmeia UDF. select setUserDefinedValueForColumn(columnName,'${testArg}') ...

1 a resposta

Comando para armazenar arquivos no HDFS

Introdução Um Hadoop NameNode e três DataNodes foram instalados e estão em execução. O próximo passo é fornecer um arquivo para o HDFS. Os seguintes comandos foram executados: hadoop fs -copyFromLocal ubuntu-14.04-desktop-amd64.iso ...

1 a resposta

Como ler arquivos com um deslocamento do Hadoop usando Java

Problema: desejo ler uma seção de um arquivo do HDFS e devolvê-lo, como as linhas 101-120 de um arquivo de 1000 linhas. Eu não quero usarseek porque eu li que é caro. Tenho arquivos de log que estou usando o PIG para processar em ...