从pandas.DataFrame中根据复杂条件选择

Question

比如我有一个简单的数据框（DF）：

import pandas as pd
from random import randint

df = pd.DataFrame({'A': [randint(1, 9) for x in range(10)],
                   'B': [randint(1, 9)*10 for x in range(10)],
                   'C': [randint(1, 9)*100 for x in range(10)]})

我能不能用Pandas的方法，选出'A'列中那些'B'列对应的值大于50，并且'C'列的值不等于900的记录呢？

Answer 1

记得要用括号哦！

要知道，&这个运算符的优先级比>和<这些运算符要高。这就是为什么

4 < 5 & 6 > 4

会得到False的原因。因此，如果你在使用pd.loc的时候，需要把你的逻辑语句用括号括起来，不然会出错。所以你应该这样做：

df.loc[(df['A'] > 10) & (df['B'] < 15)]

而不是这样：

df.loc[df['A'] > 10 & df['B'] < 15]

这样会导致

TypeError: 不能将一个类型为[float64]的数组与一个类型为[bool]的标量进行比较

Answer 2

另一种解决方案是使用 query 方法：

import pandas as pd

from random import randint
df = pd.DataFrame({'A': [randint(1, 9) for x in xrange(10)],
                   'B': [randint(1, 9) * 10 for x in xrange(10)],
                   'C': [randint(1, 9) * 100 for x in xrange(10)]})
print df

   A   B    C
0  7  20  300
1  7  80  700
2  4  90  100
3  4  30  900
4  7  80  200
5  7  60  800
6  3  80  900
7  9  40  100
8  6  40  100
9  3  10  600

print df.query('B > 50 and C != 900')

   A   B    C
1  7  80  700
2  4  90  100
4  7  80  200
5  7  60  800

现在，如果你想要改变A列中返回的值，你可以先保存它们的索引：

my_query_index = df.query('B > 50 & C != 900').index

....然后使用 .iloc 来进行修改，比如：

df.iloc[my_query_index, 0] = 5000

print df

      A   B    C
0     7  20  300
1  5000  80  700
2  5000  90  100
3     4  30  900
4  5000  80  200
5  5000  60  800
6     3  80  900
7     9  40  100
8     6  40  100
9     3  10  600

Answer 3

当然可以！设置如下：

>>> import pandas as pd
>>> from random import randint
>>> df = pd.DataFrame({'A': [randint(1, 9) for x in range(10)],
                   'B': [randint(1, 9)*10 for x in range(10)],
                   'C': [randint(1, 9)*100 for x in range(10)]})
>>> df
   A   B    C
0  9  40  300
1  9  70  700
2  5  70  900
3  8  80  900
4  7  50  200
5  9  30  900
6  2  80  700
7  2  80  400
8  5  80  300
9  7  70  800

我们可以对列进行操作，从而得到布尔系列对象：

>>> df["B"] > 50
0    False
1     True
2     True
3     True
4    False
5    False
6     True
7     True
8     True
9     True
Name: B
>>> (df["B"] > 50) & (df["C"] != 900)

或者

>>> (df["B"] > 50) & ~(df["C"] == 900)
0    False
1    False
2     True
3     True
4    False
5    False
6    False
7    False
8    False
9    False

[更新，切换到新风格的 .loc]:

然后我们可以用这些对象来索引数据。对于读取操作，你可以连着使用多个索引：

>>> df["A"][(df["B"] > 50) & (df["C"] != 900)]
2    5
3    8
Name: A, dtype: int64

但这样做在写入操作时可能会出问题，因为视图和副本之间的区别。你可以改用 .loc：

>>> df.loc[(df["B"] > 50) & (df["C"] != 900), "A"]
2    5
3    8
Name: A, dtype: int64
>>> df.loc[(df["B"] > 50) & (df["C"] != 900), "A"].values
array([5, 8], dtype=int64)
>>> df.loc[(df["B"] > 50) & (df["C"] != 900), "A"] *= 1000
>>> df
      A   B    C
0     9  40  300
1     9  70  700
2  5000  70  900
3  8000  80  900
4     7  50  200
5     9  30  900
6     2  80  700
7     2  80  400
8     5  80  300
9     7  70  800