使用 Pandas 高效计算历史同期数据及变化率

使用 pandas 高效计算历史同期数据及变化率

本教程详细介绍了如何使用 Python Pandas 库高效地计算数据集中指定历史周期的值,并进一步分析其绝对变化和百分比变化。通过构建灵活的辅助函数,文章展示了如何利用日期偏移和DataFrame自合并的策略,解决在时间序列数据中获取同期对比数据的常见需求,确保数据分析的准确性和可扩展性。

在数据分析中,我们经常需要将当前数据与历史同期数据进行比较,例如与上个月、上季度或去年同期的数据进行对比,以洞察趋势和变化。Pandas 库提供了强大的数据处理能力,但直接获取精确的历史同期值并计算其变化率可能需要一些技巧。本教程将通过一个实际案例,详细讲解如何构建一个灵活且可重用的 Python 函数来解决这一问题。

核心概念:历史同期数据提取

要获取历史同期数据,主要涉及以下几个步骤:

日期偏移: 使用 Pandas 的 DateOffset 功能,根据当前日期计算出目标历史日期的值。例如,要获取一个月前的数据,可以将当前日期减去一个月。DataFrame 自合并 (Self-Merge): 将原始 DataFrame 与其自身进行合并。通过将当前日期的历史偏移值作为合并键,与原始 DataFrame 中的日期列进行匹配,从而将历史数据引入到当前行的上下文中。数据清洗与计算: 合并后,清理冗余列,并根据需要计算当前值与历史值之间的绝对变化和百分比变化。

实现细节:get_last_period_values 函数解析

我们首先定义一个核心辅助函数 get_last_period_values,它负责获取指定历史周期的数据及其变化。

import pandas as pdimport iodef get_last_period_values(df, months_prior, metric_cols, dimension_cols, date_col):    """    获取指定月份前的历史数据,并计算绝对变化和百分比变化。    参数:    df (pd.DataFrame): 输入的DataFrame。    months_prior (int): 要回溯的月份数。    metric_cols (list): 需要计算历史值和变化的指标列名列表。    dimension_cols (list): 维度列名列表,这些列会随历史数据一起被带入,但通常不用于合并键。    date_col (str): 日期列的名称。    返回:    pd.DataFrame: 包含历史数据、绝对变化和百分比变化的DataFrame。    """    df_copy = df.copy() # 创建DataFrame副本,避免修改原始数据    # 1. 计算历史日期    # 为每行计算其对应的历史日期    df_copy[f'{date_col}_Prior'] = df_copy[date_col] - pd.DateOffset(months=months_prior)    # 2. DataFrame 自合并    # 将DataFrame与自身合并,以获取历史数据。    # left_on: 当前DataFrame的计算出的历史日期。    # right_on: 原始DataFrame的日期列。    # how='left': 确保保留所有当前数据,如果找不到对应的历史数据,则填充NaN。    # suffixes: 用于区分合并后同名列(如Organic Keywords)的当前值和历史值。    df_copy = df_copy.merge(        df_copy[[date_col] + dimension_cols + metric_cols],         left_on=f'{date_col}_Prior',         right_on=date_col,         how='left',        suffixes=('', f'_{months_prior}mo_Prior') # 为历史数据列添加后缀    )    # 3. 数据清洗    # 删除辅助的_Prior日期列和合并过程中可能产生的冗余维度列    df_copy = df_copy.drop(columns=[f'{date_col}_Prior'] + [col + f'_{months_prior}mo_Prior' for col in dimension_cols])    # 4. 计算绝对变化    # 遍历每个指标列,计算当前值与历史值之间的差值    for metric in metric_cols:        df_copy[f'{metric}_{months_prior}mo_Abs_Change'] = df_copy[metric] - df_copy[f'{metric}_{months_prior}mo_Prior']    # 5. 计算百分比变化    # 遍历每个指标列,计算百分比变化并四舍五入到两位小数    for metric in metric_cols:        # 避免除以零错误,这里直接使用公式,NaN值会在计算中自然产生        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[metric] / df_copy[f'{metric}_{months_prior}mo_Prior'] - 1        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[f'{metric}_{months_prior}mo_Pct_Change'].round(2)    return df_copy

函数关键点说明:

pd.DateOffset(months=months_prior): 这是 Pandas 中处理日期偏移的核心工具。它允许我们以月、日、年等单位精确地加减日期。df_copy.merge(…): 自合并是实现历史数据匹配的关键。left_on=f'{date_col}_Prior’ 和 right_on=date_col 定义了合并的键。当前 DataFrame 的计算出的历史日期 (Date_Prior) 将与原始 DataFrame 的实际日期 (Date) 进行匹配。how=’left’ 确保了所有当前日期的数据都被保留。如果某个当前日期没有对应的历史数据(例如,数据集中最早的几个月),则历史数据列将填充 NaN。suffixes=(”, f’_{months_prior}mo_Prior’) 非常重要。它为合并后来自右侧 DataFrame 的同名列(如 Organic Keywords)添加后缀,以便我们可以区分当前值和历史值。计算变化: 函数不仅获取历史值,还进一步计算了绝对变化(Abs_Change)和百分比变化(Pct_Change),这在实际分析中非常有用。百分比变化计算时,通过 round(2) 进行了格式化。

处理多周期分析:get_period_values 函数

为了方便地对多个历史周期进行分析(例如,同时获取 1 个月前和 12 个月前的数据),我们可以再封装一个函数 get_period_values。

def get_period_values(df, periods, metric_cols, dimension_cols, date_col):    """    对多个指定周期执行历史数据提取和变化计算。    参数:    df (pd.DataFrame): 输入的DataFrame。    periods (list): 包含要分析的月份数的列表 (e.g., [1, 3, 12])。    metric_cols (list): 需要计算历史值和变化的指标列名列表。    dimension_cols (list): 维度列名列表。    date_col (str): 日期列的名称。    返回:    pd.DataFrame: 包含所有指定周期历史数据和变化的DataFrame。    """    df_copy = df.copy()    for period in periods:        df_copy = get_last_period_values(df_copy, period, metric_cols, dimension_cols, date_col)    return df_copy

这个函数简单地遍历 periods 列表,对每个周期调用 get_last_period_values 函数,并将结果逐步合并到 df_copy 中。

完整示例代码

下面是结合上述函数的完整脚本,它读取一个 CSV 格式的字符串数据,并计算 1 个月和 12 个月前的历史数据及其变化。

import pandas as pdimport io## 常量定义,提高代码可读性和可维护性INITIAL_COL_REORDER = ['URL', 'Date', 'Organic Keywords', 'Organic Traffic']METRIC_COLS = ['Organic Keywords', 'Organic Traffic'] # 需要分析的指标列DIMENSION_COLS = ['URL'] # 维度列,此处只有一个URL,但设计上可扩展DATE_COL = 'Date' # 日期列名PERIODS = [1, 12] # 需要计算的周期 (1个月前, 12个月前)# 示例输入数据 (CSV格式字符串)INPUT_CSV = """URL,Organic Keywords,Organic Traffic,Datehttps://www.example-url.com/,1315,11345,20231115https://www.example-url.com/,1183,5646,20231015https://www.example-url.com/,869,5095,20230915https://www.example-url.com/,925,4574,20230815https://www.example-url.com/,899,4580,20230715https://www.example-url.com/,1382,5720,20230615https://www.example-url/,1171,5544,20230515https://www.example-url/,1079,5041,20230415https://www.example-url/,734,3855,20230315https://www.example-url/,853,3455,20230215https://www.example-url/,840,2343,20230115https://www.example-url/,325,2318,20221215https://www.example-url/,156,1981,20221115https://www.example-url/,166,2059,20221015https://www.example-url/,124,1977,20220915https://www.example-url/,98,1919,20220815https://www.example-url/,167,1796,20220715https://www.example-url/,140,1596,20220615https://www.example-url/,168,1493,20220515https://www.example-url/,171,1058,20220415https://www.example-url/,141,1735,20220315https://www.example-url/,129,1836,20220215https://www.example-url/,141,746,20220115https://www.example-url/,129,1076,20211215"""## HELPER FUNCTION ### (此处省略get_last_period_values和get_period_values函数定义,因为前面已给出)# 请确保将上述两个函数定义粘贴到此处,以便脚本完整运行。## MAIN SCRIPT ##if __name__ == '__main__':    # 1. 读取CSV数据    df = pd.read_csv(io.StringIO(INPUT_CSV))    # 2. 初始列重排 (可选,根据需要调整)    df = df[INITIAL_COL_REORDER]    # 3. 将日期列转换为datetime对象    df[DATE_COL] = pd.to_datetime(df[DATE_COL], format='%Y%m%d')    # 4. 按日期降序排序 (重要,确保数据处理的逻辑一致性)    df = df.sort_values(by=DATE_COL, ascending=False)    # 5. 调用主函数计算所有周期的历史数据和变化    df_final = get_period_values(df, PERIODS, METRIC_COLS, DIMENSION_COLS, DATE_COL)    # 6. 显示最终结果    print(df_final.to_string()) # 使用to_string()防止输出被截断

注意事项与最佳实践

数据预处理:日期格式: 确保日期列被正确转换为 Pandas 的 datetime 类型。本例中使用 pd.to_datetime(df[DATE_COL], format=’%Y%m%d’) 进行转换。数据排序: 在进行时间序列分析时,通常建议将 DataFrame 按日期列进行排序,尽管 merge 操作本身不依赖排序,但良好的数据习惯有助于理解和调试。本例中采用降序排序。处理缺失值 (NaN):由于 how=’left’ 合并策略,如果当前日期没有对应的历史日期数据(例如,数据集最早的几个月份),那么历史数据列将填充 NaN。在进行后续分析或可视化时,需要考虑如何处理

以上就是使用 Pandas 高效计算历史同期数据及变化率的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1377355.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
使用 python-pptx 控制 PowerPoint 幻灯片标题字体大小
上一篇 2025年12月14日 17:42:33
解决Windows 11上TensorFlow GPU兼容性问题的终极指南
下一篇 2025年12月14日 17:42:38

相关推荐

  • 抖音主页怎么分享?抖音主页怎么分享链接给别人

    在如今社交媒体盛行的时代,抖音已成为人们记录生活、展示才华的重要平台。无论是想让更多人关注你,还是推广自己的内容,学会如何分享抖音主页都至关重要。那么,抖音主页怎么分享链接给别人呢?别担心,接下来就为你详细介绍操作步骤和实用技巧,助你轻松传播个人主页。 一、分享抖音主页的具体操作 启动抖音应用 首先…

    2026年8月27日
    000
  • iPhone 17 Air详细配置曝光:5.5mm厚度+后置单摄

    8月1日,有博主透露了苹果即将推出的新机型——iphone 17 air的配置详情。据悉,这款手机机身厚度仅为5.5mm,配备6.6英寸的显示屏,并采用后置单摄像头设计。 iPhone 17 Air渲染图 消息称,iPhone 17 Air最大的亮点在于其5.5mm的超薄设计,将成为苹果史上最为轻薄…

    2026年8月27日
    000
  • Java中使用字母表编码单词

    本文介绍了如何使用Java将单词按照给定的字母表进行编码。通过示例代码详细讲解了编码的实现过程,包括字母大小写转换、循环顺序调整以及结果输出格式化等方面,帮助读者理解并掌握该编码方法。 在Java中,我们经常需要将字符串按照特定的规则进行编码。例如,给定一个字母表,我们需要将一个单词转换为该字母表中…

    2026年8月27日
    000
  • CentOS 6/7升级最新内核并开启Google BBR

    google bbr是一款tcp加速工具,但要求linux内核必须大于4.9,之前分享过文章《centos一键升级内核并开启google bbr》,这个方法虽然方便,但是发现在raksmart上升级失败了,于是尝试手动升级内核。 CentOS 7升级最新内核代码语言:javascript代码运行次数…

    2026年8月27日
    100
  • 告别PHP异步操作的等待地狱:使用GuzzlePromises优雅地处理并发任务

    可以通过一下地址学习composer:学习地址 陷入“等待地狱”的困境 想象一下,你正在开发一个复杂的php应用,比如一个聚合信息平台。为了展示一个完整的用户仪表盘,你需要同时从多个api获取数据:用户基本信息(来自用户服务)、最近订单列表(来自订单服务)、以及个性化推荐商品(来自推荐服务)。 如果…

    用户投稿 2026年8月27日
    000
  • 迈向智能交互新阶段 三星Galaxy Z Fold7|Z Flip7实现品质跃升

    迈向智能交互新阶段 三星Galaxy Z Fold7|Z Flip7实现品质跃升迈向智能交互新阶段 三星Galaxy Z Fold7|Z Flip7实现品质跃升迈向智能交互新阶段 三星Galaxy Z Fold7|Z Flip7实现品质跃升迈向智能交互新阶段 三星Galaxy Z Fold7|Z Flip7实现品质跃升

    近年来,移动ai技术转而成为了行业破局的关键。三星作为推动行业发展的关键角色,在最新推出的折叠屏新品中,不仅展现了令人惊艳的硬件超薄进化,更凭借先进的galaxy ai带来了更丰富、直观、自然的ai智能交互体验。 秉持“AI for All”愿景,三星致力于将AI体验覆盖到人们生活中的各处细节。首发…

    2026年8月27日 用户投稿
    200
  • 如何在Neos/Flow项目中无缝集成Fluid模板引擎?Composer助你高效实现

    可以通过一下地址学习composer:学习地址 告别繁琐集成:Neos/Flow 项目中模板引擎的痛点 作为 neos 或 flow 框架的开发者,我们深知一个高效、灵活的模板引擎对于构建出色用户界面的重要性。市面上有各种各样的模板引擎,但对于熟悉 typo3 生态系统或寻求与 flow/neos …

    用户投稿 2026年8月27日
    000
  • Amazon Nova Act— 亚马逊推出的通用 AI 智能体,自主执行网页任务

    amazon nova act:亚马逊的通用ai代理,简化浏览器任务 Amazon AGI Labs 推出的 Amazon Nova Act 是一款强大的通用人工智能代理,旨在简化网页浏览器中的任务执行。开发者可以使用配套的 SDK 构建智能体应用原型,实现诸如提交请假申请、安排日程或发送自动回复邮…

    2026年8月27日
    000
  • 蝴蝶号带货新机遇 + 智享 AI 无人直播平台:躺着实现财富自由

    蝴蝶号带货结合智享 ai 无人直播平台理论上可降低门槛并实现部分自动化运营,但无法完全等同于“财富自由”;2. 实现路径包括精准选品、优化直播间设计、持续内容运营、数据分析与策略调整、风险控制;3. 选品需结合平台年轻化用户画像,选择利润高、供应链稳、竞争适中、应季且具差异化的商品;4. 智享 ai…

    2026年8月27日
    000
  • 谷歌浏览器登录网址官方入口 谷歌网页版在线登录入口

    谷歌浏览器登录官方入口是https://www.google.com,用户可通过该网址登录账户实现跨设备同步书签、历史记录与密码,支持多账户切换与两步验证,保障安全;网页版无需安装,适配多设备,响应快,同步功能涵盖扩展、主题与密码管理,提升使用效率。 谷歌浏览器登录网址官方入口在哪里?这是不少用户都…

    2026年8月27日
    000
  • 夸克搜索如何设置手势操作更便捷_夸克搜索手势操作设置指南

    首先开启夸克手势功能,进入设置→通用→页面手势设置并开启左右滑动等基础操作;接着自定义手势,通过工具箱→手势设置调整触发区域与对应命令;最后在阅读模式下配置专用手势,如双击翻页、滑动调光,并调节灵敏度以提升浏览效率。 如果您希望在使用夸克搜索时通过手势操作提升浏览效率,但不清楚如何进行设置,可能是由…

    2026年8月27日
    100
  • 在Java远程调试中,如何正确获取远程服务器上的常量值?

    Java远程调试:正确获取远程服务器常量值 Java远程调试中,开发者常遇到一个难题:获取的常量值并非远程服务器上的值,而是本地环境的值。本文将深入探讨此问题,并提供解决方案。 问题:本地常量值覆盖远程值 在远程调试过程中,即使远程服务器上的常量类已更新,调试时获取的常量值仍然是本地编译时的值。这是…

    2026年8月27日
    000
  • PHP函数库设计原则是什么_PHP函数库设计最佳实践

    设计PHP函数库需遵循命名清晰、单一职责、输入验证、文档化等原则。函数名应动词开头,如sendEmail();每个函数只做一件事;参数需校验并抛出异常;添加PHPDoc注释;避免全局依赖;返回值保持一致。 设计PHP函数库时,核心目标是提升代码的可重用性、可维护性和易用性。良好的函数库不仅让开发者使…

    2026年8月27日
    000
  • 如何优雅地处理PHP异步操作?Composer与GuzzlePromises助你告别“回调地狱”

    可以通过一下地址学习composer:学习地址 在日常的php项目开发中,你是否也曾遇到过这样的场景: 你的Web应用需要向多个第三方API发送请求来获取数据,或者在用户注册后异步发送一封欢迎邮件,甚至需要处理一些耗时的后台任务。如果这些操作都采用传统的同步方式,那么用户可能需要漫长的等待,直到所有…

    用户投稿 2026年8月27日
    100
  • 微博CEO自曝喝了一杯水后差点过去 靠AI救回一命

    8月4日,微博ceo王高飞在社交平台分享了一次亲身经历:“没想到隔夜的vc水真的不能喝,差点出事”、“关键时刻ai真是救了命”。 他描述称,前一晚睡前突然感到严重头晕,几乎无法行走,用家里的血压计测量发现高压还不到90,整个人晕得站都站不稳。母亲坚持要打车送医,但他当时状态极差,觉得可能撑不到医院,…

    2026年8月27日
    000
  • 蝴蝶号带货新趋势 + 智享三代 AI 无人直播:轻松开启躺赚带货新时代

    蝴蝶号带货新趋势是结合ai无人直播实现高效省力的“躺赚”,其核心工具智享三代ai无人直播通过以下方式实现:1. 24/7全天候直播,突破时空限制持续获客;2. 智能互动与个性化推荐,提升用户粘性与转化率;3. 实时数据分析与优化,改进直播策略与选品;4. 降低人力与时间成本,显著提高带货效率;选择系…

    2026年8月27日
    000
  • 蝴蝶号带货创新模式 + 智享三代 AI 无人直播:零经验也能赚不停

    ai无人直播结合蝴蝶号带货模式能让零经验者参与并获利,其通过ai技术实现24小时直播、降低人工成本,配合选品支持、流程简化与运营指导,使用户无需出镜即可开播;能否赚钱取决于选品、运营优化和平台规则遵守,效果受限于互动性弱但可通过自动回复和真人补位改善;该模式优势在于门槛低、支持完善,劣势包括同质化竞…

    2026年8月27日
    100
  • win10xbox录屏没声音怎么办?win10xbox录屏没声音的解决方法

    在使用Win10系统中的Xbox录屏功能时,可能会遇到一种令人烦恼的情况:录制的视频没有声音。别着急,下面提供几种有效的解决方案,帮助你恢复录屏的声音。 第一步,检查系统的音频设置是否正确。按下Win + I组合键打开“设置”,进入“系统”界面后选择左侧的“声音”选项。确认当前使用的“输入”和“输出…

    2026年8月27日
    000
  • 在后端开发中,如何区分service层和dao层的职责?

    后端开发分层架构:Service层与DAO层职责详解 后端开发中,分层架构(例如包含Controller、Service和DAO层)是常见的设计模式。Controller处理前端交互,Service负责业务逻辑,DAO负责数据访问。然而,特别是引入Manager层后,Service层和DAO层的职责…

    2026年8月27日
    000
  • 折叠屏真香预警:暑期想换小折叠?别错过这款降价狠、体验稳、颜值高的系列

    在智能手机竞争白热化的2025年,关于“折叠屏是否还贵”“学生党适不适合入手”“现在有没有优惠”等话题持续升温。尤其随着暑期换机高峰的到来,越来越多大学生和年轻女性用户开始关注:当下哪款小折叠屏最值得买?有没有兼顾颜值与实用性的选择?哪家品牌降价最给力?如果你也在犹豫不决,那么答案已经浮出水面——联…

    2026年8月27日
    300

发表回复

登录后才能评论
关注微信