本文将介绍一种使用 Pandas 库中的 groupby.rolling 函数，根据连续时间段内的状态列高效生成标志位的教程。该方法避免了低效的循环操作，特别适用于处理包含大量数据（例如，数百万行）的数据集。通过示例代码和详细解释，读者将能够理解并应用此技术，以优化数据处理流程。
问题背景
在数据分析中，经常需要根据一段时间内的状态变化来标记数据。例如，根据用户在过去 12 个月内的活跃状态来判断其是否为活跃用户。如果使用循环遍历每一行数据，效率会非常低下。本文将介绍如何使用 Pandas 的滚动窗口函数 groupby.rolling 来高效地解决这类问题。
使用 groupby.rolling 函数
groupby.rolling 函数允许我们对分组数据应用滚动窗口计算。结合 max() 函数，可以方便地判断在指定窗口期内是否存在满足条件的状态。
示例数据
假设我们有以下 Pandas DataFrame：
import pandas as pddata = {'ID': ['A'] * 13, 'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28', '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28', '2021-10-28'], 'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}df = pd.DataFrame(data)print(df)
解决方案
以下代码展示了如何使用 groupby.rolling 函数生成标志位：
import pandas as pddata = {'ID': ['A'] * 13, 'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28', '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28', '2021-10-28'], 'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}df = pd.DataFrame(data)df['Flag'] = (df .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')) [::-1] .groupby('ID').rolling(12, on='Period', min_periods=1) ['status'].max()[::-1].to_numpy())print(df)
代码解释：
df.assign(Period=pd.to_datetime(df[‘Period’]).dt.to_period(‘M’)): 将 ‘Period’ 列转换为 Pandas Period 类型，精度为月。这是使用滚动窗口的必要步骤。[::-1]: 反转 DataFrame 的顺序。 这是因为我们希望从最早的日期开始计算滚动窗口，以便确定未来 12 个月内是否存在状态为 1 的情况。groupby(‘ID’).rolling(12, on=’Period’, min_periods=1): 按 ‘ID’ 列分组，并创建一个滚动窗口，窗口大小为 12 个月。min_periods=1 确保即使窗口内的数据点少于 12 个月，也会进行计算。[‘status’].max(): 计算每个滚动窗口内 ‘status’ 列的最大值。如果窗口内存在任何一个状态为 1，则最大值为 1，否则为 0。[::-1].to_numpy(): 再次反转结果顺序，使其与原始 DataFrame 的顺序一致，并将结果转换为 NumPy 数组。df[‘Flag’] = …: 将计算得到的标志位赋值给新的 ‘Flag’ 列。
考虑仅前序期间
如果需要仅考虑当前期间之前的期间，可以使用以下代码：
import pandas as pddata = {'ID': ['A'] * 13, 'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28', '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28', '2021-10-28'], 'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}df = pd.DataFrame(data)df['Flag'] = (df .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')) .set_index('Period') [::-1] .groupby('ID')['status'] .transform(lambda g: g.rolling(12, min_periods=1) .max().shift(fill_value=0) ) .to_numpy()[::-1])print(df)
代码解释：
.set_index(‘Period’): 将 ‘Period’ 列设置为索引。.transform(lambda g: g.rolling(12, min_periods=1).max().shift(fill_value=0)): 使用 transform 函数对每个分组应用滚动窗口计算。shift(fill_value=0) 将结果向下移动一位，并用 0 填充缺失值，从而确保仅考虑前序期间。
总结
使用 Pandas 的 groupby.rolling 函数可以高效地生成基于连续时间段的状态标志。这种方法避免了低效的循环操作，特别适用于处理大规模数据集。通过将时间列转换为 Period 类型，并结合 max() 和 shift() 函数，可以灵活地实现各种状态标志的生成需求。在实际应用中，可以根据具体情况调整窗口大小和计算逻辑，以满足不同的业务需求。
以上就是基于 Pandas 的滚动窗口函数高效生成状态标志的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1368240.html
微信扫一扫 
支付宝扫一扫 
