从pandas groupby的每个组中选择前n个元素

Question

我有一个数据框，大致如下：

>>> data
    price currency    
id                
2    1050       EU
5    1400       EU
4    1750       EU
8    4000       EU
7     630      GBP
1    1000      GBP
9    1400      GBP
3    2000      USD
6    7000      USD 

我需要得到一个新的数据帧，其中每种货币的n定价最高的产品，其中n取决于货币，并在另一个数据帧中给出：

>>> select_number
          number_to_select
currency       
GBP         2
EU          2
USD         1

如果必须选择相同数量的高价元素，我可以使用pandas.groupby按货币对数据进行分组，然后使用分组对象的head方法。

然而，head只接受一个数字，而不接受数组或某个表达式。

当然，我可以编写一个for循环，但这将是一种非常笨拙和低效的方法。

怎么能做得好呢？

Answer 1

下面是一个解决方案：

select_number = select_number['number_to_select']  # easier to select from series

df.groupby('currency').apply(
    lambda dfg: dfg.nlargest(select_number[dfg.name], columns='price')
)

编辑-我的答案来自jezrael's answer：我用dfg.name替换了dfg.currency.iloc[0]。

第二次编辑-正如注释中指出的，select_number是一个数据帧，因此我首先将其转换为一个序列。

马克苏和耶斯雷尔，谢谢你的评论！

Answer 2

你可以这样做：

df['rn'] = (df.sort_values(['price'], ascending=False)
              .groupby('currency').cumcount() + 1
)

qry = (select_number
       .reset_index()
       .astype(str)
       .apply(lambda x: '((currency=="{0[0]}") & (rn<={0[1]}))'.format(x), axis=1)
       .str.cat(sep=' | ')
)

print(df.query(qry))

输出

In [147]: df.query(qry)
Out[147]:
    price currency  rn
id
4    1750       EU   2
8    4000       EU   1
1    1000      GBP   2
9    1400      GBP   1
6    7000      USD   1

说明：

rn-是每个分区/组的辅助列-行数，按price（在该组内）降序排序

qry-是动态生成的查询

In [149]: qry
Out[149]: '((currency=="EU") & (rn<=2)) | ((currency=="GBP") & (rn<=2)) | ((currency=="USD") & (rn<=1))'

Answer 3

您可以使用：

data = pd.DataFrame({'id': {0: 2, 1: 5, 2: 4, 3: 8, 4: 7, 5: 1, 6: 9, 7: 3, 8: 6}, 'price': {0: 1050, 1: 1400, 2: 1750, 3: 4000, 4: 630, 5: 1000, 6: 1400, 7: 2000, 8: 7000}, 'currency': {0: 'EU', 1: 'EU', 2: 'EU', 3: 'EU', 4: 'GBP', 5: 'GBP', 6: 'GBP', 7: 'USD', 8: 'USD'}})
select_number = pd.DataFrame({'number_to_select': {'USD': 1, 'GBP': 2, 'EU': 2}})

print (data)
  currency  id  price
0       EU   2   1050
1       EU   5   1400
2       EU   4   1750
3       EU   8   4000
4      GBP   7    630
5      GBP   1   1000
6      GBP   9   1400
7      USD   3   2000
8      USD   6   7000

print (select_number)
     number_to_select
EU                  2
GBP                 2
USD                 1

通过dict映射的解决方案：

d = select_number.to_dict()
d1 = d['number_to_select']
print (d1)
{'USD': 1, 'EU': 2, 'GBP': 2}

print (data.groupby('currency').apply(lambda dfg: dfg.nlargest(d1[dfg.name],'price'))
           .reset_index(drop=True))

  currency  id  price
0       EU   8   4000
1       EU   4   1750
2      GBP   9   1400
3      GBP   1   1000
4      USD   6   7000

解决方案2：

print (data.groupby('currency')
           .apply(lambda dfg: (dfg.nlargest(select_number
                                   .loc[dfg.name, 'number_to_select'], 'price')))
           .reset_index(drop=True))

   id  price currency
0   8   4000       EU
1   4   1750       EU
2   9   1400      GBP
3   1   1000      GBP
4   6   7000      USD

说明：

我认为对于调试来说，最好使用函数f和print：

def f(dfg):
    #dfg is DataFrame 
    print (dfg)
    #name of group
    print (dfg.name)
    #select value from select_number  
    print (select_number.loc[dfg.name, 'number_to_select']) 
    #return top rows per groups 
    print (dfg.nlargest(select_number.loc[dfg.name, 'number_to_select'], 'price'))
    return (dfg.nlargest(select_number.loc[dfg.name, 'number_to_select'], 'price'))

print (data.groupby('currency').apply(f))

  currency  id  price
0       EU   2   1050
1       EU   5   1400
2       EU   4   1750
3       EU   8   4000
  currency  id  price
0       EU   2   1050
1       EU   5   1400
2       EU   4   1750
3       EU   8   4000
EU
2
  currency  id  price
3       EU   8   4000
2       EU   4   1750
  currency  id  price
4      GBP   7    630
5      GBP   1   1000
6      GBP   9   1400
GBP
2
  currency  id  price
6      GBP   9   1400
5      GBP   1   1000
  currency  id  price
7      USD   3   2000
8      USD   6   7000
USD
1
  currency  id  price
8      USD   6   7000

           currency  id  price
currency                      
EU       3       EU   8   4000
         2       EU   4   1750
GBP      6      GBP   9   1400
         5      GBP   1   1000
USD      8      USD   6   7000