Funções de janela semelhantes a SQL em PANDAS: Numeração de Linhas no Dataframe do Pandas em Python
Eu venho de um fundo de sql e eu uso a seguinte etapa de processamento de dados com freqüência:
Particionar a tabela de dados por um ou mais camposPara cada partição, adicione um rownumber a cada uma de suas linhas que classifique a linha em um ou mais outros campos, em que o analista especifica ascendente ou descendenteEX:
df = pd.DataFrame({'key1' : ['a','a','a','b','a'],
'data1' : [1,2,2,3,3],
'data2' : [1,10,2,3,30]})
df
data1 data2 key1
0 1 1 a
1 2 10 a
2 2 2 a
3 3 3 b
4 3 30 a
Eu estou procurando como fazer o PANDAS equivalente a esta função de janela sql:
RN = ROW_NUMBER() OVER (PARTITION BY Key1, Key2 ORDER BY Data1 ASC, Data2 DESC)
data1 data2 key1 RN
0 1 1 a 1
1 2 10 a 2
2 2 2 a 3
3 3 3 b 1
4 3 30 a 4
Eu tentei o seguinte que eu comecei a trabalhar onde não há 'partições':
def row_number(frame,orderby_columns, orderby_direction,name):
frame.sort_index(by = orderby_columns, ascending = orderby_direction, inplace = True)
frame[name] = list(xrange(len(frame.index)))
Eu tentei estender essa idéia para trabalhar com partições (grupos em pandas), mas o seguinte não funcionou:
df1 = df.groupby('key1').apply(lambda t: t.sort_index(by=['data1', 'data2'], ascending=[True, False], inplace = True)).reset_index()
def nf(x):
x['rn'] = list(xrange(len(x.index)))
df1['rn1'] = df1.groupby('key1').apply(nf)
Mas eu só tenho muitos NaNs quando faço isso.
Idealmente, haveria uma maneira sucinta de replicar a capacidade de função de janela do SQL (eu descobri os agregados baseados em janela ... que é um forro em pandas) ... alguém pode compartilhar comigo a maneira mais idiomática de número de linhas como esta em PANDAS?