
本文旨在提供一种高效的 Pandas 方法,用于根据连续 12 个周期内的状态列生成 Flag。通过使用 groupby.rolling 函数,避免了低效的循环,显著提升了处理大数据集的性能。文章提供了两种实现方案,分别考虑了未来周期和过去周期的状态,并附带详细代码示例和解释。
在数据分析中,经常需要根据时间序列数据生成一些标志(Flag),例如,判断某个事件在未来或过去一段时间内是否发生。如果数据集较大,传统的循环方法效率较低。本文将介绍如何利用 Pandas 的 groupby.rolling 函数,高效地根据连续周期内的状态列生成 Flag,并提供两种不同的实现方案。
方法一:考虑未来周期的状态
此方法检查每个周期后连续 12 个月内的状态,如果其中任何一个状态为 1,则将该周期的 Flag 设置为 1。
import pandas as pd# 示例数据data = {'ID': ['A'] * 13, 'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28', '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28', '2021-10-28'], 'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}df = pd.DataFrame(data)df['Flag'] = (df .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')) [::-1] .groupby('ID').rolling(12, on='Period', min_periods=1) ['status'].max()[::-1].to_numpy())print(df)
代码解释:
df.assign(Period=pd.to_datetime(df[‘Period’]).dt.to_period(‘M’)): 将 ‘Period’ 列转换为 Pandas Period 类型,方便进行时间窗口的滚动计算。[::-1]: 反转 DataFrame,因为 rolling 函数默认从前往后滚动。groupby(‘ID’).rolling(12, on=’Period’, min_periods=1): 按 ‘ID’ 分组,然后使用 rolling 函数创建一个窗口大小为 12 个月的时间窗口。 min_periods=1 表示即使窗口内的周期数小于 12,也进行计算。[‘status’].max(): 计算每个窗口内 ‘status’ 列的最大值。[::-1].to_numpy(): 再次反转结果,使其与原始 DataFrame 的顺序一致,并将结果转换为 NumPy 数组。df[‘Flag’] = …: 将计算得到的 Flag 值赋给 DataFrame 的 ‘Flag’ 列。
输出结果:
ID Period status Flag0 A 2020-10-28 0 1.01 A 2020-11-28 0 1.02 A 2020-12-28 0 1.03 A 2021-01-28 0 1.04 A 2021-02-28 0 1.05 A 2021-03-28 0 1.06 A 2021-04-28 0 1.07 A 2021-05-28 0 1.08 A 2021-06-28 1 1.09 A 2021-07-28 0 0.010 A 2021-08-28 0 0.011 A 2021-09-28 0 0.012 A 2021-10-28 0 0.0
方法二:仅考虑过去周期的状态
此方法仅考虑每个周期前连续 12 个月内的状态,如果其中任何一个状态为 1,则将该周期的 Flag 设置为 1。
import pandas as pd# 示例数据data = {'ID': ['A'] * 13, 'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28', '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28', '2021-10-28'], 'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}df = pd.DataFrame(data)df['Flag'] = (df .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')) .set_index('Period') [::-1] .groupby('ID')['status'] .transform(lambda g: g.rolling(12, min_periods=1) .max().shift(fill_value=0) ) .to_numpy()[::-1])print(df)
代码解释:
df.assign(Period=pd.to_datetime(df[‘Period’]).dt.to_period(‘M’)): 将 ‘Period’ 列转换为 Pandas Period 类型,方便进行时间窗口的滚动计算。.set_index(‘Period’): 将’Period’列设置为索引[::-1]: 反转 DataFrame,因为 rolling 函数默认从前往后滚动。groupby(‘ID’)[‘status’].transform(lambda g: g.rolling(12, min_periods=1).max().shift(fill_value=0)): 按 ‘ID’ 分组,然后使用 transform 函数对每个分组应用滚动计算。rolling(12, min_periods=1).max() 计算每个窗口内 ‘status’ 列的最大值,shift(fill_value=0) 将结果向下移动一位,并将第一个值填充为 0,以实现只考虑过去周期的状态。.to_numpy()[::-1]: 将结果转换为 NumPy 数组,并再次反转,使其与原始 DataFrame 的顺序一致。df[‘Flag’] = …: 将计算得到的 Flag 值赋给 DataFrame 的 ‘Flag’ 列。
输出结果:
ID Period status Flag0 A 2020-10-28 0 1.01 A 2020-11-28 0 1.02 A 2020-12-28 0 1.03 A 2021-01-28 0 1.04 A 2021-02-28 0 1.05 A 2021-03-28 0 1.06 A 2021-04-28 0 1.07 A 2021-05-28 0 1.08 A 2021-06-28 1 0.09 A 2021-07-28 0 0.010 A 2021-08-28 0 0.011 A 2021-09-28 0 0.012 A 2021-10-28 0 0.0
注意事项和总结
数据类型转换: 确保 ‘Period’ 列的数据类型正确,需要将其转换为 Pandas Period 或 Datetime 类型,以便进行时间窗口的滚动计算。排序: 在进行滚动计算之前,需要对数据进行排序,确保数据按照时间顺序排列。性能: groupby.rolling 函数比循环方法效率更高,尤其是在处理大数据集时。灵活性: 可以根据实际需求调整窗口大小和计算方式,例如,可以使用 min()、mean() 等函数计算窗口内的最小值、平均值等。min_periods参数: 该参数控制了窗口内最少需要多少个非空值才能进行计算。根据实际情况设置,避免出现不必要的错误。
通过本文的介绍,您可以使用 Pandas 的 groupby.rolling 函数,高效地根据连续周期内的状态列生成 Flag,从而提升数据分析的效率。根据您的需求选择合适的方案,并注意数据类型转换、排序和性能优化。
以上就是基于连续周期状态列生成Flag的Pandas高效方法的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1368236.html
微信扫一扫
支付宝扫一扫