MultipleOutputFormat no hadoop
Sou novato no Hadoop. Estou testando o programa Wordcount.
Agora, para experimentar vários arquivos de saída, eu usoMultipleOutputFormat
. esse link me ajudou a fazê-lo.http://hadoop.apache.org/common/docs/r0.19.0/api/org/apache/hadoop/mapred/lib/MultipleOutputs.html
na minha classe de motorista eu tive
MultipleOutputs.addNamedOutput(conf, "even",
org.apache.hadoop.mapred.TextOutputFormat.class, Text.class,
IntWritable.class);
MultipleOutputs.addNamedOutput(conf, "odd",
org.apache.hadoop.mapred.TextOutputFormat.class, Text.class,
IntWritable.class);`
e minha classe de redução se tornou essa
public static class Reduce extends MapReduceBase implements
Reducer<Text, IntWritable, Text, IntWritable> {
MultipleOutputs mos = null;
public void configure(JobConf job) {
mos = new MultipleOutputs(job);
}
public void reduce(Text key, Iterator<IntWritable> values,
OutputCollector<Text, IntWritable> output, Reporter reporter)
throws IOException {
int sum = 0;
while (values.hasNext()) {
sum += values.next().get();
}
if (sum % 2 == 0) {
mos.getCollector("even", reporter).collect(key, new IntWritable(sum));
}else {
mos.getCollector("odd", reporter).collect(key, new IntWritable(sum));
}
//output.collect(key, new IntWritable(sum));
}
@Override
public void close() throws IOException {
// TODO Auto-generated method stub
mos.close();
}
}
As coisas funcionaram, mas eu recebo MUITOS arquivos (um ímpar e um par para cada redução de mapa)
A pergunta é: Como posso ter apenas 2 arquivos de saída (ímpar e par) para que cada saída ímpar de cada redução de mapa seja gravada nesse arquivo ímpar e o mesmo para pares.