Podział krotki na wiele krotek w Pig
Lubię generować wiele krotek z pojedynczej krotki. Mam na myśli: Mam plik z następującymi danymi.
>> cat data
ID | ColumnName1:Value1 | ColumnName2:Value2
więc ładuję go za pomocą następującego polecenia
grunt >> A = load '$data' using PigStorage('|');
grunt >> dump A;
(ID,ColumnName1:Value1,ColumnName2:Value2)
Teraz chcę podzielić tę krotkę na dwie krotki.
(ID, ColumnName1, Value1)
(ID, ColumnName2, Value2)
Czy mogę używać UDF wraz z foreach i generować. Jakaś następująca rzecz?
grunt >> foreach A generate SOMEUDF(A)
EDYTOWAĆ:
wejściowa krotka: (id1, kolumna1, kolumna2) wyjście: dwie krotki (id1, kolumna1) i (id2, kolumna2), więc jest to lista lub czy powinienem zwrócić torbę?
public class SPLITTUPPLE extends EvalFunc <List<Tuple>>
{
public List<Tuple> exec(Tuple input) throws IOException {
if (input == null || input.size() == 0)
return null;
try{
// not sure how whether I can create tuples on my own. Looks like I should use TupleFactory.
// return list of tuples.
}catch(Exception e){
throw WrappedIOException.wrap("Caught exception processing input row ", e);
}
}
}
Czy to podejście jest prawidłowe?