Pandas时间序列:实现每日重置的滚动计算

Pandas时间序列:实现每日重置的滚动计算

本文详细介绍了如何在Pandas时间序列数据中,实现expanding()函数按天重新开始计算的逻辑。通过将日期时间索引转换为单独的日期列,并结合groupby()方法,用户可以有效地对每日数据进行独立的累积统计分析,确保每个新的一天都从头开始计算其滚动指标,适用于需要分日统计的场景。

理解Pandas中的Expanding操作

在时间序列分析中,expanding()函数是pandas提供的一个强大工具,用于执行累积(或扩展)窗口计算。与固定大小的rolling()窗口不同,expanding()窗口会随着数据的增加而不断扩大,从序列的第一个元素开始,逐步包含后续所有元素。例如,data[“somecolumn”].expanding().mean()会计算从序列开始到当前点的所有数据的累积平均值。

然而,在某些业务场景下,我们可能需要这种累积计算在特定时间点(例如每天开始时)“重置”。这意味着当新的一天到来时,expanding()计算应该从该天的第一条记录重新开始,而不是继续前一天的累积。

每日重置Expanding计算的挑战

默认的expanding()方法会跨越整个序列进行累积计算,不会自动识别日期边界并重置。如果直接在一个包含多天数据的DataFrame上应用expanding().mean(),它将计算整个时间跨度内的累积平均值,这不符合每日重置的需求。例如,如果第二天的数据是第一条记录,它将与前一天的所有数据一起计算,而不是作为新一天的起点。

解决方案:结合groupby()按天分组

解决此问题的关键在于利用Pandas的groupby()方法。我们可以首先从时间序列索引中提取出“日期”部分,将其作为一个新的分组键。然后,对这个日期键进行分组,并在每个组(即每一天)内部独立地应用expanding()函数。这样,expanding()操作就会在每天的边界处自动“重置”。

实施步骤

以下是实现每日重置expanding()计算的具体步骤:

准备数据: 确保你的DataFrame有一个DatetimeIndex,这是进行时间序列操作的基础。提取日期信息: 从DatetimeIndex中提取出单独的日期部分,并将其存储为一个新的列。这个新列将作为我们groupby()操作的键。应用groupby()和expanding(): 使用新创建的日期列作为groupby()的参数,然后在其结果上链式调用expanding()和所需的聚合函数(如mean()、sum()、`count()等)。

示例代码

让我们通过一个具体的例子来演示这个过程。假设我们有一个包含多天数据的DataFrame,我们希望计算每日的累积平均值。

import pandas as pd# 1. 准备示例数据# 创建一个包含多天时间序列数据的DataFramedf = pd.DataFrame(    {"B": [1, 2, 4, 0, 4]},    index=pd.to_datetime(        ["2023-12-11 21:00:00", "2023-12-11 22:00:00", "2023-12-11 23:00:00",         "2023-12-12 00:00:00", "2023-12-12 01:00:00"]    ))# 确保索引已排序(虽然本例数据已排序,但这是一个好习惯)# df = df.sort_index()print("原始DataFrame:")print(df)print("-" * 30)# 2. 提取日期信息并创建新的“day”列# 使用 .dt 访问器和 strftime 方法将日期格式化为 YYYY-MM-DD 字符串df["day"] = df.index.to_series().dt.strftime("%Y-%m-%d")print("添加'day'列后的DataFrame:")print(df)print("-" * 30)# 3. 应用 groupby() 和 expanding().mean()# 首先按“day”列分组,然后在每个组内应用 expanding().mean()daily_expanding_mean = df.groupby("day")["B"].expanding().mean()print("每日重置的Expanding平均值结果:")print(daily_expanding_mean)

代码解释:

我们创建了一个名为df的DataFrame,其索引是DatetimeIndex,包含两天的数据。df[“day”] = df.index.to_series().dt.strftime(“%Y-%m-%d”) 这一行是关键。它从DataFrame的日期时间索引中提取出日期部分,并将其格式化为”YYYY-MM-DD”字符串,然后作为新列”day”添加到DataFrame中。使用字符串格式化可以确保即使时间戳包含时区信息,日期分组也能准确无误。df.groupby(“day”)[“B”].expanding().mean():df.groupby(“day”):将DataFrame按照”day”列的值进行分组。这意味着所有属于同一天的数据将被视为一个独立的组。[“B”]:指定我们要在列”B”上执行计算。.expanding().mean():在每个分组内部,对列”B”应用expanding().mean()。当一个新组(新的一天)开始时,expanding()的计算将重新开始。

输出结果分析:

原始DataFrame:                       B2023-12-11 21:00:00  12023-12-11 22:00:00  22023-12-11 23:00:00  42023-12-12 00:00:00  02023-12-12 01:00:00  4------------------------------添加'day'列后的DataFrame:                       B         day2023-12-11 21:00:00  1  2023-12-112023-12-11 22:00:00  2  2023-12-112023-12-11 23:00:00  4  2023-12-112023-12-12 00:00:00  0  2023-12-122023-12-12 01:00:00  4  2023-12-12------------------------------每日重置的Expanding平均值结果:day                                  2023-12-11 2023-12-11 21:00:00    1.000000           2023-12-11 22:00:00    1.500000           2023-12-11 23:00:00    2.3333332023-12-12 2023-12-12 00:00:00    0.000000           2023-12-12 01:00:00    2.000000

从结果中可以看出,对于2023-12-11这一天:

第一个值是 1.000000 (1 / 1)第二个值是 1.500000 ((1 + 2) / 2)第三个值是 2.333333 ((1 + 2 + 4) / 3)

当日期切换到2023-12-12时,expanding()计算被重置:

第一个值是 0.000000 (0 / 1)第二个值是 2.000000 ((0 + 4) / 2)

这正是我们期望的每日重置行为。

注意事项与扩展

索引类型: 确保DataFrame的索引是DatetimeIndex。如果不是,你需要先使用pd.to_datetime()将其转换。日期提取方式: 除了dt.strftime(“%Y-%m-%d”),你也可以使用df.index.to_series().dt.date来获取Python的date对象进行分组。这两种方法在groupby的效果上是相似的。其他Expanding聚合: 这种方法不仅适用于mean(),也适用于expanding().sum()、expanding().min()、expanding().max()、expanding().count()等所有expanding()支持的聚合函数。性能考量: 对于非常大的数据集,创建新的辅助列可能会增加内存消耗。然而,groupby()和expanding()的组合通常是处理此类时间序列问题的有效且高效的方法。多级索引: df.groupby(“day”).expanding().mean()的输出结果是一个Series,其索引是多级索引(MultiIndex),第一级是日期,第二级是原始的DatetimeIndex。如果你需要将其合并回原始DataFrame,可以使用join()或merge()操作。

总结

通过巧妙地结合Pandas的groupby()功能与日期时间索引的提取能力,我们可以轻松地实现expanding()函数在每日边界处重置的需求。这种方法提供了一种灵活且强大的方式,用于在时间序列数据中执行分段的累积统计分析,从而更好地满足特定的业务逻辑和数据分析要求。

以上就是Pandas时间序列:实现每日重置的滚动计算的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1376288.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 15:46:38
下一篇 2025年12月14日 15:46:50

相关推荐

  • 利用Pandas对DataFrame多列组合进行统计分析与结果展示

    本文详细介绍了如何使用Pandas对DataFrame中多个分类列的组合进行高效的统计分析。通过groupby()和agg()方法,可以轻松计算每个组合的中间值、平均值、计数以及自定义分位数(如90%和10%)。文章还演示了如何使用reindex()确保所有可能的组合都被包含在结果中,并提供了迭代输…

    好文分享 2025年12月14日
    000
  • 从HTML表格中提取数据并转换为DataFrame

    本文档旨在提供一个清晰、简洁的教程,指导读者如何使用Beautiful Soup库解析具有固定结构的HTML表格,并将提取的数据转换为Pandas DataFrame。通过示例代码和详细解释,读者将学会如何有效地从HTML中提取特定数据,并将其组织成易于分析的表格形式。 使用Beautiful So…

    2025年12月14日
    000
  • 深入理解 Python 字符串连接:+= 的隐藏优化与性能陷阱

    Python 中字符串的不可变性理论上导致重复使用 += 进行连接会产生二次时间复杂度。然而,CPython 解释器对此操作进行了一项特定优化,使其在某些条件下表现出接近线性的性能。尽管如此,这项优化是“脆弱”且不跨解释器通用的,PEP 8 规范明确建议不要依赖它。本文将深入探讨这一优化机制,并通过…

    2025年12月14日
    000
  • 如何使用Pandas DataFrame更新SQL数据库表列

    本文详细介绍了两种使用Pandas DataFrame更新SQL数据库表列的方法。第一种是基于pyodbc的逐行更新,适用于数据量较小的情况,简单直观但效率不高。第二种是利用pandas.to_sql结合临时表进行批量更新,通过将DataFrame写入临时表,再执行SQL联接更新主表,显著提升了处理…

    2025年12月14日
    000
  • 高效地将一维列表索引映射到三维空间坐标

    本文旨在提供一种高效的数学方法,将一维数组或列表的索引转换为三维空间中的(x, y, z)坐标。通过利用整数除法和取模运算,并基于预设的宽度和高度参数,可以避免昂贵的字符串操作和字典查找,从而优化在体素渲染等计算密集型应用中数据的存取效率,实现快速且直接的坐标转换。 1. 背景与效率考量 在开发诸如…

    2025年12月14日
    000
  • 使用Pybind11从Python获取C++函数调用位置的行号

    在Pybind11混合C++/Python项目中,有时需要从C++侧获取Python脚本中调用C++函数的具体文件和行号,这对于日志记录或调试至关重要。本文将详细介绍两种主要方法:利用Python的inspec++t模块和更底层的sys._getframe函数来检查调用栈,从而提取所需的源文件路径和…

    2025年12月14日
    000
  • 使用 Flask-SQLAlchemy 高效插入爬取数据教程

    本教程旨在指导开发者如何将爬取到的数据高效、安全地插入到使用 Flask-SQLAlchemy 构建的数据库中。文章将详细阐述从传统 SQL 语句到 ORM 模型的转变,重点介绍数据模型的定义、在 Flask 应用上下文中的数据插入操作,以及如何利用会话管理(db.session)和事务控制(com…

    2025年12月14日
    000
  • 高效将一维索引映射到三维空间坐标的教程

    在高性能计算场景,如体素光线追踪中,高效存储和检索空间数据至关重要。本文将介绍如何将一个一维列表索引转换为对应的三维(x, y, z)坐标。通过利用Python的divmod函数,我们能够以数学方式直接计算出每个轴的坐标,避免了昂贵的字符串操作和循环,从而优化了数据访问效率,特别适用于需要快速定位三…

    2025年12月14日
    000
  • 深入理解Python requests.post 参数与循环中断机制

    本文旨在探讨在使用Python requests库进行HTTP POST请求时,如何正确处理参数传递、异常捕获以及循环中断(break)逻辑。我们将分析一个常见的重试机制实现中break语句未能按预期工作的案例,揭示其背后原因,并提供一个健壮且符合最佳实践的解决方案,确保网络请求的可靠性和代码的正确…

    2025年12月14日
    000
  • Python类方法在继承中的身份识别与描述符协议解析

    本文深入探讨了Python中类方法在继承场景下的行为,特别是当它们作为列表元素进行比较时,其身份识别问题。核心在于Python的描述符协议导致每次访问类方法时都会创建新的方法对象,而非直接引用其底层函数。文章详细解释了这一机制,并通过示例代码展示了如何正确地在子类中排除父类方法,推荐使用方法名字符串…

    2025年12月14日
    000
  • Python字典迭代与列表转换:理解键值对与生成字典列表的正确姿势

    本文深入探讨Python中字典的迭代机制及其在转换为列表时的常见误区。我们将阐明直接迭代字典只会获取键的原理,并演示如何利用items()方法获取键值对,并通过列表推导式高效地生成期望的字典列表。同时,文章还将对比csv.DictReader等特殊场景下,其迭代行为如何直接返回字典,以避免混淆。 1…

    2025年12月14日
    000
  • BottlePy教程:在根路径下高效提供静态文件并避免路由冲突

    本教程将指导您如何在BottlePy应用中,将存储在子目录中的静态文件(如public/)通过网站的根路径(/)提供给用户,同时避免与应用程序的其他路由(如/blog)发生冲突。核心解决方案在于理解并正确利用BottlePy的路由匹配顺序机制。 引言:理解静态文件服务需求 在web开发中,静态文件(…

    2025年12月14日
    000
  • PyTorch中矩阵运算的向量化与高效实现

    本文旨在探讨PyTorch中如何将涉及循环的矩阵操作转换为高效的向量化实现。通过利用PyTorch的广播机制,我们将一个逐元素迭代的矩阵减法和除法求和过程,重构为无需显式循环的张量操作,从而显著提升计算速度和资源利用率。文章将详细介绍向量化解决方案,并讨论数值精度问题。 1. 问题描述与低效实现 在…

    2025年12月14日
    000
  • 将一维数组索引高效转换为三维坐标的教程

    本教程详细阐述了在计算机图形学(如体素光线追踪)中,如何将一维数组的线性索引高效地映射到三维空间中的(x, y, z)坐标。文章首先回顾了二维转换原理,然后深入分析了三维转换的数学逻辑,特别解决了Y坐标在Z层切换时无法正确归零的问题,并提供了使用Python divmod函数实现简洁高效转换的专业代…

    2025年12月14日
    000
  • 解决 Selenium WebDriver 运行时出现的 TypeError

    本文旨在帮助开发者解决在使用 Selenium WebDriver 时遇到的 TypeError 问题。通过分析问题代码,找出错误根源,并提供修改后的代码示例,确保程序能够正确运行,成功抓取网页数据。本文将重点讲解如何使用正确的 find_elements 方法以及如何选择合适的选择器。 问题分析 …

    2025年12月14日
    000
  • BottlePy中根目录静态文件服务与路由优先级管理

    本文详细阐述了如何在BottlePy框架中,实现从应用根路径直接提供静态文件服务,同时避免与现有业务路由发生冲突。核心在于理解BottlePy的路由匹配机制,并通过合理调整路由定义顺序——将具体路由置于泛化路由之前——来确保两者和谐共存,有效解决因泛化路由覆盖特定路由的问题。 理解BottlePy的…

    2025年12月14日
    000
  • 深入理解Python类方法与描述符:动态对象与比较策略

    本文旨在深入探讨Python中类方法的行为,特别是当它们作为动态对象被访问时,其ID(或“地址”)可能不一致的原因。文章将解释Python的描述符协议,区分方法对象与底层函数,并揭示为何直接比较方法对象可能导致意外结果。最后,提供一套健壮的比较策略和调用方法,以确保在继承和动态场景下代码的正确性。 …

    2025年12月14日
    000
  • Python字符串拼接的线性时间复杂度之谜

    本文旨在揭秘Python中看似违背直觉的字符串拼接行为,即使用+=运算符进行字符串拼接时,在CPython解释器下表现出的近似线性时间复杂度。我们将深入探讨CPython的内部优化机制,解释为何这种操作有时能避免二次方复杂度,并强调依赖此优化的风险,以及在追求高性能时应采取的正确方法。 在Pytho…

    2025年12月14日
    000
  • PySide6连接D-Bus信号:深入理解注册与槽函数签名

    本文详细阐述了PySide6中连接D-Bus信号的正确方法,重点解决了对象注册和槽函数签名匹配问题。教程涵盖了必要的registerObjec++t调用,以及PySide6特有的QtCore.SLOT字符串签名语法,并对比了PyQt6的简化方式,旨在帮助开发者高效、准确地处理D-Bus信号。 引言:…

    2025年12月14日
    000
  • Django ORM高效实现左连接:prefetch_related深度解析

    本文深入探讨了在Django中如何高效地执行模型间的左连接查询,特别是当需要获取所有父级记录及其关联的子级记录(即使子级不存在)时。文章分析了select_related和原生SQL的局限性,并重点介绍了prefetch_related作为最佳实践,它通过两次数据库查询和Python层面的数据关联,…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信