使用 Pandas 高效计算历史同期数据及变化率

使用 pandas 高效计算历史同期数据及变化率

本教程详细介绍了如何使用 Python Pandas 库高效地计算数据集中指定历史周期的值,并进一步分析其绝对变化和百分比变化。通过构建灵活的辅助函数,文章展示了如何利用日期偏移和DataFrame自合并的策略,解决在时间序列数据中获取同期对比数据的常见需求,确保数据分析的准确性和可扩展性。

在数据分析中,我们经常需要将当前数据与历史同期数据进行比较,例如与上个月、上季度或去年同期的数据进行对比,以洞察趋势和变化。Pandas 库提供了强大的数据处理能力,但直接获取精确的历史同期值并计算其变化率可能需要一些技巧。本教程将通过一个实际案例,详细讲解如何构建一个灵活且可重用的 Python 函数来解决这一问题。

核心概念:历史同期数据提取

要获取历史同期数据,主要涉及以下几个步骤:

日期偏移: 使用 Pandas 的 DateOffset 功能,根据当前日期计算出目标历史日期的值。例如,要获取一个月前的数据,可以将当前日期减去一个月。DataFrame 自合并 (Self-Merge): 将原始 DataFrame 与其自身进行合并。通过将当前日期的历史偏移值作为合并键,与原始 DataFrame 中的日期列进行匹配,从而将历史数据引入到当前行的上下文中。数据清洗与计算: 合并后,清理冗余列,并根据需要计算当前值与历史值之间的绝对变化和百分比变化。

实现细节:get_last_period_values 函数解析

我们首先定义一个核心辅助函数 get_last_period_values,它负责获取指定历史周期的数据及其变化。

import pandas as pdimport iodef get_last_period_values(df, months_prior, metric_cols, dimension_cols, date_col):    """    获取指定月份前的历史数据,并计算绝对变化和百分比变化。    参数:    df (pd.DataFrame): 输入的DataFrame。    months_prior (int): 要回溯的月份数。    metric_cols (list): 需要计算历史值和变化的指标列名列表。    dimension_cols (list): 维度列名列表,这些列会随历史数据一起被带入,但通常不用于合并键。    date_col (str): 日期列的名称。    返回:    pd.DataFrame: 包含历史数据、绝对变化和百分比变化的DataFrame。    """    df_copy = df.copy() # 创建DataFrame副本,避免修改原始数据    # 1. 计算历史日期    # 为每行计算其对应的历史日期    df_copy[f'{date_col}_Prior'] = df_copy[date_col] - pd.DateOffset(months=months_prior)    # 2. DataFrame 自合并    # 将DataFrame与自身合并,以获取历史数据。    # left_on: 当前DataFrame的计算出的历史日期。    # right_on: 原始DataFrame的日期列。    # how='left': 确保保留所有当前数据,如果找不到对应的历史数据,则填充NaN。    # suffixes: 用于区分合并后同名列(如Organic Keywords)的当前值和历史值。    df_copy = df_copy.merge(        df_copy[[date_col] + dimension_cols + metric_cols],         left_on=f'{date_col}_Prior',         right_on=date_col,         how='left',        suffixes=('', f'_{months_prior}mo_Prior') # 为历史数据列添加后缀    )    # 3. 数据清洗    # 删除辅助的_Prior日期列和合并过程中可能产生的冗余维度列    df_copy = df_copy.drop(columns=[f'{date_col}_Prior'] + [col + f'_{months_prior}mo_Prior' for col in dimension_cols])    # 4. 计算绝对变化    # 遍历每个指标列,计算当前值与历史值之间的差值    for metric in metric_cols:        df_copy[f'{metric}_{months_prior}mo_Abs_Change'] = df_copy[metric] - df_copy[f'{metric}_{months_prior}mo_Prior']    # 5. 计算百分比变化    # 遍历每个指标列,计算百分比变化并四舍五入到两位小数    for metric in metric_cols:        # 避免除以零错误,这里直接使用公式,NaN值会在计算中自然产生        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[metric] / df_copy[f'{metric}_{months_prior}mo_Prior'] - 1        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[f'{metric}_{months_prior}mo_Pct_Change'].round(2)    return df_copy

函数关键点说明:

pd.DateOffset(months=months_prior): 这是 Pandas 中处理日期偏移的核心工具。它允许我们以月、日、年等单位精确地加减日期。df_copy.merge(…): 自合并是实现历史数据匹配的关键。left_on=f'{date_col}_Prior’ 和 right_on=date_col 定义了合并的键。当前 DataFrame 的计算出的历史日期 (Date_Prior) 将与原始 DataFrame 的实际日期 (Date) 进行匹配。how=’left’ 确保了所有当前日期的数据都被保留。如果某个当前日期没有对应的历史数据(例如,数据集中最早的几个月),则历史数据列将填充 NaN。suffixes=(”, f’_{months_prior}mo_Prior’) 非常重要。它为合并后来自右侧 DataFrame 的同名列(如 Organic Keywords)添加后缀,以便我们可以区分当前值和历史值。计算变化: 函数不仅获取历史值,还进一步计算了绝对变化(Abs_Change)和百分比变化(Pct_Change),这在实际分析中非常有用。百分比变化计算时,通过 round(2) 进行了格式化。

处理多周期分析:get_period_values 函数

为了方便地对多个历史周期进行分析(例如,同时获取 1 个月前和 12 个月前的数据),我们可以再封装一个函数 get_period_values。

def get_period_values(df, periods, metric_cols, dimension_cols, date_col):    """    对多个指定周期执行历史数据提取和变化计算。    参数:    df (pd.DataFrame): 输入的DataFrame。    periods (list): 包含要分析的月份数的列表 (e.g., [1, 3, 12])。    metric_cols (list): 需要计算历史值和变化的指标列名列表。    dimension_cols (list): 维度列名列表。    date_col (str): 日期列的名称。    返回:    pd.DataFrame: 包含所有指定周期历史数据和变化的DataFrame。    """    df_copy = df.copy()    for period in periods:        df_copy = get_last_period_values(df_copy, period, metric_cols, dimension_cols, date_col)    return df_copy

这个函数简单地遍历 periods 列表,对每个周期调用 get_last_period_values 函数,并将结果逐步合并到 df_copy 中。

完整示例代码

下面是结合上述函数的完整脚本,它读取一个 CSV 格式的字符串数据,并计算 1 个月和 12 个月前的历史数据及其变化。

import pandas as pdimport io## 常量定义,提高代码可读性和可维护性INITIAL_COL_REORDER = ['URL', 'Date', 'Organic Keywords', 'Organic Traffic']METRIC_COLS = ['Organic Keywords', 'Organic Traffic'] # 需要分析的指标列DIMENSION_COLS = ['URL'] # 维度列,此处只有一个URL,但设计上可扩展DATE_COL = 'Date' # 日期列名PERIODS = [1, 12] # 需要计算的周期 (1个月前, 12个月前)# 示例输入数据 (CSV格式字符串)INPUT_CSV = """URL,Organic Keywords,Organic Traffic,Datehttps://www.example-url.com/,1315,11345,20231115https://www.example-url.com/,1183,5646,20231015https://www.example-url.com/,869,5095,20230915https://www.example-url.com/,925,4574,20230815https://www.example-url.com/,899,4580,20230715https://www.example-url.com/,1382,5720,20230615https://www.example-url/,1171,5544,20230515https://www.example-url/,1079,5041,20230415https://www.example-url/,734,3855,20230315https://www.example-url/,853,3455,20230215https://www.example-url/,840,2343,20230115https://www.example-url/,325,2318,20221215https://www.example-url/,156,1981,20221115https://www.example-url/,166,2059,20221015https://www.example-url/,124,1977,20220915https://www.example-url/,98,1919,20220815https://www.example-url/,167,1796,20220715https://www.example-url/,140,1596,20220615https://www.example-url/,168,1493,20220515https://www.example-url/,171,1058,20220415https://www.example-url/,141,1735,20220315https://www.example-url/,129,1836,20220215https://www.example-url/,141,746,20220115https://www.example-url/,129,1076,20211215"""## HELPER FUNCTION ### (此处省略get_last_period_values和get_period_values函数定义,因为前面已给出)# 请确保将上述两个函数定义粘贴到此处,以便脚本完整运行。## MAIN SCRIPT ##if __name__ == '__main__':    # 1. 读取CSV数据    df = pd.read_csv(io.StringIO(INPUT_CSV))    # 2. 初始列重排 (可选,根据需要调整)    df = df[INITIAL_COL_REORDER]    # 3. 将日期列转换为datetime对象    df[DATE_COL] = pd.to_datetime(df[DATE_COL], format='%Y%m%d')    # 4. 按日期降序排序 (重要,确保数据处理的逻辑一致性)    df = df.sort_values(by=DATE_COL, ascending=False)    # 5. 调用主函数计算所有周期的历史数据和变化    df_final = get_period_values(df, PERIODS, METRIC_COLS, DIMENSION_COLS, DATE_COL)    # 6. 显示最终结果    print(df_final.to_string()) # 使用to_string()防止输出被截断

注意事项与最佳实践

数据预处理:日期格式: 确保日期列被正确转换为 Pandas 的 datetime 类型。本例中使用 pd.to_datetime(df[DATE_COL], format=’%Y%m%d’) 进行转换。数据排序: 在进行时间序列分析时,通常建议将 DataFrame 按日期列进行排序,尽管 merge 操作本身不依赖排序,但良好的数据习惯有助于理解和调试。本例中采用降序排序。处理缺失值 (NaN):由于 how=’left’ 合并策略,如果当前日期没有对应的历史日期数据(例如,数据集最早的几个月份),那么历史数据列将填充 NaN。在进行后续分析或可视化时,需要考虑如何处理

以上就是使用 Pandas 高效计算历史同期数据及变化率的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1377355.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 17:42:33
下一篇 2025年12月14日 17:42:38

相关推荐

  • 使用 python-pptx 控制 PowerPoint 幻灯片标题字体大小

    本文旨在解决在使用 python-pptx 库生成 PowerPoint 演示文稿时,如何控制幻灯片标题字体大小的问题。通过分析常见错误原因,提供正确的代码示例,帮助开发者自定义幻灯片标题的字体大小,从而生成更符合需求的演示文稿。本文将提供详细的步骤和代码示例,确保读者能够轻松掌握该技巧。 在使用 …

    2025年12月14日
    000
  • 优化子集划分问题:贪心算法的局限与整数线性规划的解决方案

    本文探讨了如何将一个整数数组划分为两个子集a和b,要求子集a元素数量最小且其和大于子集b的和。针对传统贪心算法在特定案例下的不足,文章详细介绍了基于整数线性规划(ilp)的系统性解决方案,包括变量定义、目标函数和约束条件的构建,为解决此类组合优化问题提供了严谨的数学模型。 问题定义:最大和、最小长度…

    2025年12月14日
    000
  • 从Pandas DataFrame构建嵌套字典的实用指南

    本文详细介绍了如何利用pandas dataframe将扁平化的表格数据高效转换为嵌套字典结构。通过`pivot`函数重塑数据,并结合`to_dict`方法,可以轻松实现以特定列作为外层和内层键、另一列作为值的多级字典,从而方便快捷地进行数据查询和管理,避免了手动迭代和复杂逻辑。 在数据处理和分析中…

    2025年12月14日
    000
  • Pandas数据清洗:基于多数原则和首次出现规则标准化ID标签

    本文详细阐述了在Pandas DataFrame中如何为每个唯一ID标准化其关联的标签。核心策略是优先选择ID下出现频率最高的标签,当存在多个标签出现次数相同时,则默认选取首次出现的标签作为标准。通过结合groupby()和mode()方法,我们能够高效且准确地实现这一复杂的标签标准化逻辑,有效解决…

    2025年12月14日
    000
  • 解决 Python SQLite 中 FOREIGN KEY 约束失败的问题

    当在 Python 中使用 SQLite 遇到“FOREIGN KEY constraint failed”错误时,通常是由于数据插入顺序不当导致的。外键约束要求引用的父表记录必须先于子表记录存在。本文将详细解析此错误的原因,并提供通过调整数据插入顺序、利用数据库事务以及优化数据库模式来解决和避免此…

    2025年12月14日
    000
  • 如何在Python函数中返回字典的键而非值

    本文探讨了在Python函数中根据字典值进行比较时,如何正确地返回对应的键名。核心问题在于将字典的值(整数)误认为字典本身,并尝试调用其`.key()`方法。解决方案是修改函数设计,使其接收字典的键名(字符串)作为参数,并在函数内部使用该键名来访问字典的实际值,从而实现在f-string中返回键名的…

    2025年12月14日
    000
  • Quart应用中SQLite数据库连接的异步拆卸处理

    本文探讨quart框架中,使用`teardown_appcontext`关闭sqlite数据库连接时可能遇到的线程错误。核心问题在于同步的数据库关闭函数在异步环境中被不同线程执行,导致`sqlite3.programmingerror`。解决方案是将数据库关闭函数声明为异步协程,确保其在同一线程中执…

    2025年12月14日
    000
  • Pandas与SQL高效数据重构:从长格式到宽格式的性能优化实践

    本文深入探讨了如何高效地将sql数据库中拉取的长格式数据重构为pandas中的宽格式,并最终转换为独立的python列表。我们比较了多种客户端(pandas)和服务器端(sql)的优化策略,包括预过滤、`pivot`、`set_index`与`unstack`组合,以及利用sql的`case`语句进…

    2025年12月14日
    000
  • 使用Pandas标准化数据标签:按ID获取最常见或首个标签

    本文介绍如何使用Pandas高效地标准化数据集中的标签列。针对每个唯一ID,我们将根据其出现频率选择最常见的标签作为标准标签;若存在并列最常见的标签,则默认选择首次出现的标签。文章将通过实际代码示例,详细阐述实现这一逻辑的多种方法,并强调`Series.mode()`方法的简洁与高效性。 引言:数据…

    2025年12月14日
    000
  • python列表追加元素出错的解决

    答案是调用append方法时常见错误包括:将返回值赋值给变量导致变为None、变量未初始化为列表、混淆append与extend功能。正确做法为避免重新赋值、确保列表已初始化、根据需求选择合适方法,并注意作用域和线程安全问题。 在使用 Python 列表追加元素时,如果出现错误,通常是因为对列表方法…

    2025年12月14日
    000
  • 高效修改 Pandas MultiIndex 指定位置列名

    本教程旨在解决pandas multiindex中,根据指定位置修改列名的问题。针对传统方法如rename和set_levels的局限性,文章提供了两种专业且高效的解决方案:将multiindex转换为元组列表进行直接修改,或利用辅助dataframe进行iloc式定位替换。这些方法确保了在处理复杂…

    2025年12月14日
    000
  • 解决OpenAI Gym环境step函数返回值数量不匹配问题

    本文旨在帮助开发者解决在使用OpenAI Gym(或 Gymnasium)环境时遇到的`ValueError: not enough values to unpack (expected 5, got 4)`错误。该错误通常源于Gym版本更新导致`step`函数和`reset`函数的返回值数量发生变…

    2025年12月14日
    000
  • 通过邀请链接获取Telegram频道实体:兼顾已加入与未加入情况

    本教程旨在解决通过telegram邀请链接获取频道实体时遇到的挑战。针对用户已加入和未加入频道两种情况,我们提供了一种健壮的解决方案。通过结合使用`client.get_entity`和`functions.messages.importchatinviterequest`,并配合异常处理机制,开发…

    2025年12月14日
    000
  • Flask-SocketIO与uWSGI多进程部署中的异步模式配置指南

    本文旨在解决flask-socketio与uwsgi结合部署时常见的异步模式配置错误。核心问题在于未正确指定socketio的异步驱动,导致与uwsgi的gevent环境冲突。通过设置`async_mode=’gevent_uwsgi’`并优化uwsgi的多进程配置为单进程g…

    2025年12月14日
    000
  • python模块的name属性

    当模块直接运行时,__name__值为’__main__’,用于执行主逻辑;被导入时则为模块名,避免代码自动执行。通过if name == ‘__main__’:可控制测试或主程序运行,提升模块复用性与安全性。 在 Python 中,每个模块都有一个内…

    2025年12月14日
    000
  • structlog 日志输出的临时抑制:测试与控制实践

    在使用 structlog 进行日志记录时,测试代码中经常需要临时抑制特定代码块的日志输出,以避免测试报告被不必要的错误信息淹没。本文将介绍如何利用 `structlog.testing.capture_logs` 上下文管理器,并通过自定义封装,实现简洁高效的日志临时抑制机制,确保测试环境的整洁与…

    2025年12月14日
    000
  • Python教程:高效匹配JSON与文本数据并提取关联信息

    本教程详细介绍了如何使用Python从非结构化文本文件(如TXT)中提取特定模式的数据(如设备名称),并将其与结构化JSON文件中的数据进行匹配。通过结合json模块和re模块的正则表达式功能,文章演示了如何高效地查找匹配项,并从JSON结构中提取相应的关联URL信息,为跨文件数据整合提供了实用的解…

    2025年12月14日
    000
  • 使用 Pandas 的 isin 方法处理日期时出现 False 的问题

    本文旨在解决在使用 Pandas 的 `isin` 方法处理包含日期时间类型数据的 DataFrame 时,遇到的条件判断始终为 `False` 的问题。通过分析问题原因,提供解决方案,并给出最佳实践建议,帮助读者避免类似错误,提升数据处理效率。核心在于理解 `Timestamp.date` 的返回…

    2025年12月14日
    000
  • 使用 Argparse 在子命令间灵活添加可选参数

    本文旨在解决在使用 `argparse` 创建带有子命令的命令行工具时,如何允许用户在命令行中的任意位置传递可选参数(例如 `-j` 或 `–json`)的问题。我们将探讨一种通过为每个解析器实例添加带唯一ID的参数,并在解析后合并结果来实现此目的的解决方案。 在使用 argparse …

    2025年12月14日
    000
  • 正确处理Python邮件附件中包含空格的文件名

    本文旨在解决在使用Python发送邮件时,附件文件名中包含空格导致的问题。通过示例代码演示了如何正确地使用引号包裹文件名,从而确保接收方能够正确地识别和预览附件,避免文件名显示不完整或包含URL编码字符。 在使用Python的email库发送带有附件的邮件时,如果附件的文件名包含空格,可能会遇到一些…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信