Pracuję nad dużym zbiorem danych z n współzmiennymi. Wiele wierszy to duplikaty. Aby zidentyfikować duplikaty, muszę użyć podzbioru zmiennych towarzyszących, aby utworzyć zmienną identyfikacyjną. Oznacza to, że współzmienne (n-x) są nieistotne. Chcę połączyć wartości zmiennych współrzędnych x, aby jednoznacznie zidentyfikować obserwacje i wyeliminować duplikaty.

set.seed(1234)
UNIT <- c(1,1,1,1,2,2,2,3,3,3,4,4,4,5,6,6,6)
DATE <- c("1/1/2010","1/1/2010","1/1/2010","1/2/2012","1/2/2009","1/2/2004","1/2/2005","1/2/2005",
      "1/1/2011","1/1/2011","1/1/2011","1/1/2009","1/1/2008","1/1/2008","1/1/2012","1/1/2013",
      "1/1/2012")
OUT1 <- c(300,400,400,400,600,700,700,800,800,800,900,700,700,100,100,100,500)
JUNK1 <- c(rnorm(17,0,1))
JUNK2 <- c(rnorm(17,0,1))

test = data.frame(UNIT,DATE,OUT1,JUNK1,JUNK2)

„test” to przykładowa ramka danych. Zmienne, których muszę użyć, aby jednoznacznie zidentyfikować obserwacje, to „UNIT”, „DATE” i „OUT1”. Na przykład,

head(test)
  UNIT     DATE OUT1      JUNK1      JUNK2
1    1 1/1/2010  300 -1.2070657 -0.9111954
2    1 1/1/2010  400  0.2774292 -0.8371717
3    1 1/1/2010  400  1.0844412  2.4158352
4    1 1/2/2012  400 -2.3456977  0.1340882
5    2 1/2/2009  600  0.4291247 -0.4906859
6    2 1/2/2004  700  0.5060559 -0.4405479    

Obserwacje 1 i 4 nie są duplikatem zbioru danych. Obserwacje 2 i 3 są duplikatami. Nowy zestaw danych, który chcę utworzyć, będzie zawierał obserwacje 1 i 4 oraztylko jeden 2 i 3. Rozwiązaniem, które wypróbowałem jest:

subset(test, !duplicated(c(UNIT,DATE,OUT1)))

Co niestety nie działa:

      UNIT     DATE OUT1       JUNK1      JUNK2
1        1 1/1/2010  300 -1.20706575 -0.9111954
5        2 1/2/2009  600  0.42912469 -0.4906859
8        3 1/2/2005  800 -0.54663186 -0.6937202
11       4 1/1/2011  900 -0.47719270 -1.0236557
14       5 1/1/2008  100  0.06445882  1.1022975
15       6 1/1/2012  100  0.95949406 -0.4755931

Chociaż ignoruje nieistotne zmienne (JUNK1, JUNK2), technika jest zbyt chciwa. Nowy zestaw danych powinien zawierać trzy obserwacje na jednostce pierwszej, ponieważ istnieją trzy unikalne kombinacje UNIT + DATE + OUT1, gdy UNIT = 1. Czy istnieje sposób na osiągnięcie tego bez pisania funkcji?