numpy数组中的索引datetime

Question

我有一个核阵列大致如下：

data    
array([(datetime.datetime(2009, 1, 6, 2, 30), 17924.0, 0.0),....
           (datetime.datetime(2009, 1, 29, 16, 30), 35249.2, 521.25], 
         dtype=[('timestamp', '|O4'), ('x1', '<f8'), ('x2', '<f8')])

我希望能够基于第一列（即，使用datetime对象）索引数据，这样我就可以访问一个特定的年/月/日值的数据，如下所示：

data[data['timestamp'].year == 2009]

这显然行不通。我唯一能想到的是添加额外的列（例如“year”列），这样就可以：

data[data['year'] == 2009]

似乎是一种相当低效的做事方式（而且会复制很多数据）-特别是如果我想索引所有其他时间间隔。。。有更好的办法吗？

提前谢谢。

Answer 1

使用pandaspandas是一个开源的、BSD许可的库，为Python编程语言提供了高性能、易于使用的数据结构和数据分析工具。”

文档中有很多示例，但您可以这样做：

import pandas
import numpy as np
import datetime as dt

# example values
dates = np.asarray(pandas.date_range('1/1/2000', periods=8))

# create a dataframe
df = pandas.DataFrame(np.random.randn(8, 4), index=dates, columns=['A', 'B', 'C', 'D'])

# date you want
date=dt.datetime(2000,1,2)

# magic :)
print df.xs(date)

我建议尽快学习这个模块。这绝对是例外。这是一个非常简单的例子。查看非常详尽的文档。

Answer 2

好的，所以我想我解决了这个问题（使用pandas，正如上面strimp099所建议的那样），特别是使用“GroupBy”对象(pandas: Group By: split-apply-combine)

要详细说明上面使用的示例：

import pandas
import numpy as np
import datetime as dt

# example values
dates = np.asarray(pandas.DateRange('1/1/2000', periods=200))

# create a dataframe
df = pandas.DataFrame(np.random.randn(200, 4), index=dates, columns=['A', 'B', 'C', 'D'])

# create a GroupBy object
grouped_data = df.groupby(lambda x: x.month)

#magic
grouped_data.mean()
              A         B         C         D
month                                        
1     -0.492648 -0.038257 -0.224924  0.130182
2     -0.178995  0.236042 -0.471791 -0.369913
3     -0.261866 -0.024680 -0.107211 -0.195742
4      0.215505  0.077079 -0.057511  0.146193
5     -0.097043 -0.335736  0.302811  0.120170
6      0.187583  0.221954 -0.290655 -0.077800
7     -0.134988  0.013719 -0.094334 -0.107402
8     -0.229138  0.056588 -0.156174 -0.067655
9      0.043746  0.077781  0.230035  0.344440
10    -0.533137 -0.683788  0.395286 -0.957894

（即按月份分组的数据的平均值）

此外，要进行多个分组（例如，在我的案例中是年和月），这可能有助于：

grouped_data = df.groupby(lambda x: (x.year,x.month))

干杯！

Answer 3

您还可以在numpy中使用datetime数据类型。我还没有对这两种方法进行基准测试，但它们可能非常接近。下面是一个例子：

import datetime
import numpy as np


def data_in(dates, year=2009):
    """ Return the dates within the given year. 
    Works only with dates being a numpy array with a datetime dtype.
    """

    from_date = np.array(('{}-01-01'.format(year), ), dtype='M8')
    to_date = np.array(('{}-12-31'.format(year),), dtype='M8')

    return dates[(dates > from_date) & (dates < to_date)]


if __name__ == '__main__':

    data = np.array(
        [
            (datetime.datetime(2009, 1, 6, 2, 30), 17924.0, 0.0),
            (datetime.datetime(2009, 1, 29, 16, 30), 35249.2, 521.25),
            (datetime.datetime(2011, 1, 29, 16, 30), 35249.2, 521.25),
        ], 
        dtype=[('timestamp', 'M8'), ('x1', '<f8'), ('x2', '<f8')]
    )

    for year in [2009, 2010, 2011]:
        print ' Timestamps in {}:\n {}'.format( year, data_in(data['timestamp'], year))