在Python Pandas DataFrame中高效执行列间加减运算的教程

在Python Pandas DataFrame中高效执行列间加减运算的教程

本教程旨在详细介绍如何在pandas dataframe中高效地对多个目标列执行复杂的列间加减运算。我们将探讨两种主要的实现方法:利用`dataframe.eval()`进行多行表达式计算,以及通过链式调用`add()`和`sub()`等矢量化方法。文章将通过具体示例代码,阐述这些方法的应用场景、优势,并提供选择策略和注意事项,帮助读者优化数据处理流程。

引言

在数据分析和处理中,我们经常需要根据现有列的值计算新列或更新现有列。当这种操作涉及多个列,并且遵循相同的计算模式时,如何高效且简洁地实现这些批量操作就显得尤为重要。本教程将以一个具体的场景为例:对DataFrame中的多个目标列(如C, D, E)执行相同的复合运算,即目标列 = 目标列 – B列 + A列。

初始数据准备

首先,我们创建一个示例Pandas DataFrame,作为所有操作的基础。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df = pd.DataFrame(data)print("原始DataFrame:")print(df)

输出的原始DataFrame如下:

原始DataFrame:    A   B   C   D   E   F   G0  42  45  60  12  87  40  581  38  30  50  70  90  48  422  39  15  25  35  45  55  853  23  65  43  76  43  76  10

我们的目标是更新列C, D, E,使其值变为当前值 – B列的值 + A列的值。

立即学习“Python免费学习笔记(深入)”;

方法一:使用 DataFrame.eval() 进行多行表达式计算

DataFrame.eval() 方法允许我们使用字符串表达式来计算DataFrame的列。它在内部使用NumExpr库,对于大型DataFrame和复杂的表达式,通常能提供比直接Python操作更高的性能。其优势在于可以清晰地表达复杂的列间运算,并且支持多行表达式。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df_eval = pd.DataFrame(data.copy()) # 使用副本进行操作df_eval = df_eval.eval('''C = C - B + AD = D - B + AE = E - B + A''')print("n使用 df.eval() 后的DataFrame:")print(df_eval)

解析:eval() 方法接受一个多行字符串,每一行代表一个赋值操作。Pandas会自动识别字符串中的列名,并将其作为DataFrame的列进行操作。这种方式使得批量更新多个列变得非常直观和易读,尤其当表达式结构相似时。

方法二:使用矢量化方法链式操作 (add, sub)

Pandas的Series和DataFrame对象支持各种矢量化数学运算方法,如add()、sub()、mul()、div()等。对于本例中的目标列 = 目标列 – B列 + A列,我们可以将其重构为目标列 = 目标列 + (A列 – B列)。这样,我们就可以计算出一个公共的偏移量A – B,然后将其批量加到目标列上。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df_vectorized = pd.DataFrame(data.copy()) # 使用副本进行操作# 计算公共的偏移量 (A - B)offset = df_vectorized['A'].sub(df_vectorized['B'])# 将偏移量批量加到目标列上# 注意:当Series与DataFrame的子集进行操作时,需要指定 axis=0 表示按行(索引)对齐df_vectorized[['C', 'D', 'E']] = df_vectorized[['C', 'D', 'E']].add(offset, axis=0)print("n使用矢量化方法后的DataFrame:")print(df_vectorized)

解析:

df_vectorized[‘A’].sub(df_vectorized[‘B’]):首先计算列A减去列B的结果,得到一个Series,这代表了每个目标列需要应用的共同调整量。df_vectorized[[‘C’, ‘D’, ‘E’]]:选择需要更新的目标列。.add(offset, axis=0):将之前计算的offset Series加到选定的多列DataFrame子集上。axis=0在这里至关重要,它指示Pandas按行(即索引)对齐Series和DataFrame进行加法运算。如果不指定,Pandas可能会尝试按列对齐,导致错误或非预期结果。

最终结果验证

两种方法得到的最终DataFrame结果应该是一致的:

    A   B   C   D   E   F   G0  42  45  57   9  84  40  581  38  30  58  78  98  48  422  39  15  49  59  69  55  853  23  65   1  34   1  76  10

注意事项与选择策略

可读性与复杂性:eval() 方法在处理涉及多个列的复杂或多行表达式时,通常具有更好的可读性,因为它直接模仿了数学表达式的写法。矢量化方法链式操作在表达式相对简单或可以分解为公共部分时,也非常清晰。但如果表达式非常复杂,链式调用可能会变得冗长。性能:对于非常大的DataFrame,eval() 在内部利用NumExpr库,通常能提供比纯Python循环或某些直接的Pandas操作更优的性能。矢量化方法本身在Pandas中是高度优化的,对于大多数常见操作,其性能已经非常出色。在选择时,除非有明确的性能瓶颈,否则应优先考虑代码的可读性和维护性。axis 参数的重要性:当使用如add()、sub()等方法将一个Series(如offset)与一个DataFrame或DataFrame的子集进行操作时,务必注意axis参数。axis=0表示按行(索引)对齐进行操作,这是本例中所需的行为。就地修改与副本:df.eval() 默认返回一个新的DataFrame,不会修改原始DataFrame。如果你想就地修改,可以重新赋值,如df = df.eval(…)。矢量化操作df[[‘C’, ‘D’, ‘E’]] = … 会直接修改原始DataFrame的相应列。

总结

本教程介绍了在Pandas DataFrame中对多列执行相同加减运算的两种高效方法:DataFrame.eval() 和链式矢量化方法(add(), sub())。eval() 提供了一种简洁的字符串表达式方式,适用于复杂的多行计算;而矢量化方法通过分解公共部分并利用Pandas的优化操作,同样能实现高效且清晰的代码。理解并掌握这两种方法,将有助于你更灵活、高效地处理数据,并提升代码的质量。在实际应用中,根据表达式的复杂度和对代码可读性、性能的要求,选择最适合的方法。

以上就是在Python Pandas DataFrame中高效执行列间加减运算的教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1382480.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 23:57:19
下一篇 2025年12月14日 23:57:36

相关推荐

  • Pydantic 2 模型中集成正则表达式模式的最佳实践

    pydantic 2 对类变量的处理机制与 pydantic 1 存在显著差异,导致直接在模型中定义 `re.compile` 模式时可能引发 `attributeerror`。本教程将深入解析这一问题的原因,并提供将正则表达式模式移至全局作用域的解决方案,确保在 pydantic 2 模型中实现高…

    好文分享 2025年12月14日
    000
  • Python包管理:使用Pip和虚拟环境替代Conda的安装方法

    本文详细阐述了如何在不安装Conda的情况下,利用Python的`pip`包管理器和虚拟环境来管理和安装项目依赖。通过创建独立的虚拟环境、激活环境并从`requirements.txt`文件安装Python包,提供了一种高效且标准化的替代方案,适用于主要依赖Python库的项目,确保依赖隔离与项目可…

    2025年12月14日
    000
  • Python多线程:高效获取最快完成任务的结果

    本教程旨在解决python多线程编程中,如何启动多个并发任务并仅获取其中最快完成任务的结果,同时忽略其他耗时较长的任务。我们将深入探讨`concurrent.futures`模块,特别是`threadpoolexecutor`和`as_completed`方法,演示如何简洁高效地实现这一目标,从而优…

    2025年12月14日
    000
  • 深入理解Python列表元素与内存抽象

    python作为一门高级语言,抽象了底层的内存管理,不直接暴露如c语言中“地址”或“左值”的概念。本文将深入探讨python列表元素的内存模型,解释为何无法直接获取列表内部指针的地址,并提供在python中进行元素交互和修改的惯用方法,强调python的引用机制而非直接内存地址操作。 Python的…

    2025年12月14日
    000
  • 使用Pandas DataFrame高效执行多列算术运算

    本文旨在探讨在Pandas DataFrame中对多列进行加减法运算的两种高效方法。我们将介绍如何利用`DataFrame.eval()`进行多行表达式计算,以及如何通过链式调用`add()`和`sub()`方法实现向量化操作。通过具体示例,读者将掌握在Python环境中简洁、高效地处理DataFr…

    2025年12月14日
    000
  • macOS环境下Python虚拟环境安装mysqlclient的完整指南

    本教程详细介绍了在macos系统python虚拟环境中安装`mysqlclient`时,解决`pkg-config`相关编译错误的方法。文章提供了两种主要方案:安装完整的mysql服务器或仅安装mysql客户端库,并强调了正确配置`pkg_config_path`环境变量的重要性,旨在帮助开发者顺利…

    2025年12月14日
    000
  • Python 3.12中type关键字定义类型别名的优势与考量

    python 3.12引入了`type`关键字来定义类型别名,旨在提供更优的泛型语法、支持惰性求值,并更清晰地将类型别名与普通变量区分开来。尽管旧的赋值方式仍受支持,但新旧语法在行为上存在差异,尤其是在`isinstance`等场景下。本文将深入探讨`type`关键字的优势及其使用时的注意事项。 类…

    2025年12月14日
    000
  • 在不使用Conda的情况下,通过Pip管理Python环境与安装软件包

    本教程旨在指导用户如何在不安装conda的情况下,利用python内置的`venv`模块创建独立的虚拟环境,并通过`pip`工具高效安装和管理python软件包。文章将详细阐述如何处理conda的`environment.yaml`文件,使其兼容`pip`安装流程,并提供完整的操作步骤、代码示例及重…

    2025年12月14日
    000
  • Python Pandas DataFrame列迭代绘图中的索引类型匹配与优化

    本教程探讨在python中使用pandas dataframe进行循环绘图时,因索引类型不匹配导致的`indexerror`问题。当尝试使用字符串列名作为`matplotlib.axes`对象的索引时,会引发此错误。文章提供了一种优雅的解决方案,通过利用`enumerate`函数同时获取整数索引和列…

    2025年12月14日
    000
  • 如何使用python中threadpool模块?

    答案是推荐使用concurrent.futures.ThreadPoolExecutor。Python标准库中无官方threadpool模块,常用的是concurrent.futures.ThreadPoolExecutor,支持submit提交任务和map批量处理,适用于I/O密集型任务,如网络请…

    2025年12月14日
    000
  • python中str内置函数总结归纳

    Python字符串方法丰富,用于高效处理文本。1. 大小写转换:upper()、lower()、capitalize()、title()、swapcase()实现字母格式调整;2. 查找与判断:find()、index()、count()定位子串,startswith()、endswith()检查前…

    2025年12月14日
    000
  • Python yield 与异常传播的关系

    yield是生成器内外交互的核心,可传递值和异常;通过throw()方法能将外部异常注入生成器并在yield处抛出,内部未捕获异常会向上传播并终止生成器,而close()会触发GeneratorExit用于清理资源。 在 Python 中,yield 关键字用于定义生成器函数,它让函数可以暂停执行并…

    2025年12月14日
    000
  • Slurm作业提交:Python脚本内嵌srun的性能影响分析

    本文探讨了在slurm集群中,通过sbatch提交一个bash脚本,该bash脚本进而调用python脚本,而python脚本内部再通过subprocess模块调用srun来启动大规模并行计算任务的工作流。研究表明,这种嵌套调用方式在作业启动阶段会引入微乎其微的(可忽略不计的)开销,但对实际hpc工…

    2025年12月14日
    000
  • python中partial函数如何使用?

    partial函数来自functools模块,用于冻结函数的部分参数以创建新函数。例如add_five = partial(add, 5)固定第一个参数为5,调用add_five(3)输出8;也可固定关键字参数如say_hi = partial(greet, greeting=”Hi&#…

    2025年12月14日
    000
  • Python中利用正则表达式统计特定标记词后的单词数量

    本教程旨在详细讲解如何在python中使用正则表达式精确统计文本字符串中,特定下划线标记词(例如`_earth`)后出现的单词数量。文章提供了两种核心解决方案:分别针对仅统计标记词之后的单词,以及将标记词本身也纳入统计的场景。通过深入解析正则表达式模式和提供完整的python代码示例,帮助开发者高效…

    2025年12月14日
    000
  • python中如何使用RE正则表达检验字符串

    答案:Python中使用re模块处理正则表达式,常用方法有re.match()从开头匹配、re.search()查找第一个匹配、re.fullmatch()完全匹配整个字符串、re.findall()返回所有匹配结果,可通过compile()编译正则提升效率,适用于验证手机号、邮箱等格式。 在 Py…

    2025年12月14日
    000
  • Python re.sub 非贪婪匹配与自定义替换函数处理多行文本

    本文将深入探讨如何使用 python 的 `re.sub` 函数处理包含特定起始和结束标记的多行文本。我们将重点解决在替换过程中遇到的非贪婪匹配问题,以及如何通过自定义替换函数去除匹配内容中的换行符,从而实现对复杂文本模式的精确控制和格式化处理。 在文本处理中,我们经常需要根据特定的起始和结束标记来…

    2025年12月14日
    000
  • Python正则表达式:非贪婪匹配与多组内容换行符处理

    本文深入探讨了在python中使用正则表达式进行多组匹配和替换时遇到的常见问题,特别是如何通过非贪婪匹配策略(`+?`)避免过度匹配,以及如何利用`re.sub()`的函数式替换参数来动态处理捕获组中的内容,例如移除匹配文本中的换行符,从而实现精确且灵活的文本转换。 在处理文本数据时,我们经常需要识…

    2025年12月14日
    000
  • 解决Kivy安装失败:Python版本兼容性与环境配置指南

    kivy安装失败,特别是遇到`subprocess-exited-with-error`或`no matching distribution found`等依赖错误时,其核心原因往往是python版本不兼容。本文将深入探讨kivy对python版本的严格要求,并提供一套完整的解决方案,指导用户通过选…

    2025年12月14日
    000
  • Pandas DataFrame中实现条件性累积最小值重置

    本文详细讲解如何在Pandas DataFrame中根据复杂条件计算一个新列,该列的值是另一列的累积最小值,但在特定条件满足时,累积最小值会重置并从新值开始计算。通过分步解析和代码示例,文章展示了如何利用Pandas的向量化操作(如`shift`、`groupby`、`cumsum`、`cummin…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信