我有以下数据框:
sp_id sp_dt v1 v1 v3
x1|x2|x30|x40 2018-10-07 100 200 300
x1|x2|x30|x40 2018-10-14 80 80 90
x1|x2|x30|x40 2018-10-21 34 35 36
x1|x2|x31|x41 2018-10-07 100 200 300
x1|x2|x31|x41 2018-10-14 80 80 90
x1|x2|x31|x41 2018-10-21 34 35 36
....
x1|x2|x39|x49 2018-10-21 340 350 36
以及包含以下数据的excel文件(excel中的每个工作表可能包含多个变量,如下面所示的v4、v5,另一个工作表中可能包含v6):
Variable sp_partid1 sp_partid2 2018-10-07 ... 2018-10-21
v4 x30 x40 160 ... 154
v4 x31 x41 59 ... 75
....
v4 x39 x49 75 ... 44
v5 x30 x40 16 ... 24
v5 x31 x41 59 ... 79
....
v5 x39 x49 75 ... 34
sp\u partid1和sp\u partid2是可选列。它们是顶部数据框中的“spu id的一部分”列。文件可以没有,或者在这个特定的示例中,最多有4个这样的列,每个列都是顶部数据框中sp_id列的一部分。你知道吗
最终输出应如下所示:
sp_id sp_dt v1 v1 v3 v4 v5
x1|x2|x30|x40 2018-10-07 100 200 300 160 16
x1|x2|x30|x40 2018-10-14 80 80 90 ... ...
x1|x2|x30|x40 2018-10-21 34 35 36 154 24
x1|x2|x31|x41 2018-10-07 100 200 300 59 59
x1|x2|x31|x41 2018-10-14 80 80 90 ... ...
x1|x2|x31|x41 2018-10-21 34 35 36 75 79
....
x1|x2|x39|x49 2018-10-21 340 350 36 44 34
Edit1开始: 输出是如何产生的?你知道吗
get a list of variables
check if the variable(say v4 in this case) exists in any sheet
if it does:
does it have any "part of sp_id"
#In the example shown sp_partid1 and sp_partid2 of excel sheets
#are part of sp_id of dataframe.
if yes:
#it means the part of sp_id is common for all values. (x1|x2) in this case.
add a new column to dataframe, v4, which has sp_id, sp_dt and,
the value of that date
if no:
#it means the whol sp_id is common for all values. (x1|x2|x3|x4) in this case and not shown in example.
add a new column to dataframe, v4, and copy the value under the appropriate dates in excel sheet into corresponding v4 values and sp_dt
例如,160是2018-10-07下v4、x30、x40的值,因此最终输出中的v4在第一行显示160。你知道吗
Edit1结束:
我的代码开始于:
df # is the top data frame which I have not gotten around to using yet
var_value # gets values in a loop like 'v4, v5...'
sheets_dict = {name: pd.read_excel('excel_file.xlsx', sheet_name = name, parse_dates = True) for name in sheets}
for key, value in sheets_dict.items():
if 'Variable' in value.columns:
# 'Variable' column exists in this sheet
if var_value in value['Variable'].values:
# var_value exists in 'Variable' column (say, v4)
for column in value.columns:
if column.startswith('sp_'):
#Do something with column values, then map the values etc
您正在尝试做的是有意义的,但是这是一个相当长的操作序列,因此您在实现它时遇到一些困难是正常的。我认为您应该回到关系数据库的更高抽象级别,并使用pandas提供的高级数据帧操作。你知道吗
让我们从高级操作的角度总结一下您想要做的事情:
sheet_dicts
数据帧的格式,使其具有相同的数据,但呈现方式不同我不能给你一个精确的实现,你的规范仍然是相当模糊的,即使全球目标是明确的。另外,我没有一个参考来指导您使用关系数据库,但是我强烈建议您了解情况,这将为您节省大量时间,特别是如果您经常需要执行此类任务的话。你知道吗
假设您的excel表中有一个包含以下数据
您可以使用pandas
melt
和pivot_table
函数的组合来获得所需的结果。你知道吗阅读带有sheet\u name=None的excel工作簿将给出一个
worksheet name
为key
的字典和一个data frame
为value
相关问题 更多 >
编程相关推荐