在Python Pandas DataFrame中高效执行列间加减运算的教程

在Python Pandas DataFrame中高效执行列间加减运算的教程

本教程旨在详细介绍如何在pandas dataframe中高效地对多个目标列执行复杂的列间加减运算。我们将探讨两种主要的实现方法:利用`dataframe.eval()`进行多行表达式计算,以及通过链式调用`add()`和`sub()`等矢量化方法。文章将通过具体示例代码,阐述这些方法的应用场景、优势,并提供选择策略和注意事项,帮助读者优化数据处理流程。

引言

在数据分析和处理中,我们经常需要根据现有列的值计算新列或更新现有列。当这种操作涉及多个列,并且遵循相同的计算模式时,如何高效且简洁地实现这些批量操作就显得尤为重要。本教程将以一个具体的场景为例:对DataFrame中的多个目标列(如C, D, E)执行相同的复合运算,即目标列 = 目标列 – B列 + A列。

初始数据准备

首先,我们创建一个示例Pandas DataFrame,作为所有操作的基础。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df = pd.DataFrame(data)print("原始DataFrame:")print(df)

输出的原始DataFrame如下:

原始DataFrame:    A   B   C   D   E   F   G0  42  45  60  12  87  40  581  38  30  50  70  90  48  422  39  15  25  35  45  55  853  23  65  43  76  43  76  10

我们的目标是更新列C, D, E,使其值变为当前值 – B列的值 + A列的值。

立即学习“Python免费学习笔记(深入)”;

方法一:使用 DataFrame.eval() 进行多行表达式计算

DataFrame.eval() 方法允许我们使用字符串表达式来计算DataFrame的列。它在内部使用NumExpr库,对于大型DataFrame和复杂的表达式,通常能提供比直接Python操作更高的性能。其优势在于可以清晰地表达复杂的列间运算,并且支持多行表达式。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df_eval = pd.DataFrame(data.copy()) # 使用副本进行操作df_eval = df_eval.eval('''C = C - B + AD = D - B + AE = E - B + A''')print("n使用 df.eval() 后的DataFrame:")print(df_eval)

解析:eval() 方法接受一个多行字符串,每一行代表一个赋值操作。Pandas会自动识别字符串中的列名,并将其作为DataFrame的列进行操作。这种方式使得批量更新多个列变得非常直观和易读,尤其当表达式结构相似时。

方法二:使用矢量化方法链式操作 (add, sub)

Pandas的Series和DataFrame对象支持各种矢量化数学运算方法,如add()、sub()、mul()、div()等。对于本例中的目标列 = 目标列 – B列 + A列,我们可以将其重构为目标列 = 目标列 + (A列 – B列)。这样,我们就可以计算出一个公共的偏移量A – B,然后将其批量加到目标列上。

import pandas as pddata = {  "A": [42, 38, 39, 23],  "B": [45, 30, 15, 65],  "C": [60, 50, 25, 43],  "D": [12, 70, 35, 76],  "E": [87, 90, 45, 43],  "F": [40, 48, 55, 76],  "G": [58, 42, 85, 10],}df_vectorized = pd.DataFrame(data.copy()) # 使用副本进行操作# 计算公共的偏移量 (A - B)offset = df_vectorized['A'].sub(df_vectorized['B'])# 将偏移量批量加到目标列上# 注意:当Series与DataFrame的子集进行操作时,需要指定 axis=0 表示按行(索引)对齐df_vectorized[['C', 'D', 'E']] = df_vectorized[['C', 'D', 'E']].add(offset, axis=0)print("n使用矢量化方法后的DataFrame:")print(df_vectorized)

解析:

df_vectorized[‘A’].sub(df_vectorized[‘B’]):首先计算列A减去列B的结果,得到一个Series,这代表了每个目标列需要应用的共同调整量。df_vectorized[[‘C’, ‘D’, ‘E’]]:选择需要更新的目标列。.add(offset, axis=0):将之前计算的offset Series加到选定的多列DataFrame子集上。axis=0在这里至关重要,它指示Pandas按行(即索引)对齐Series和DataFrame进行加法运算。如果不指定,Pandas可能会尝试按列对齐,导致错误或非预期结果。

最终结果验证

两种方法得到的最终DataFrame结果应该是一致的:

    A   B   C   D   E   F   G0  42  45  57   9  84  40  581  38  30  58  78  98  48  422  39  15  49  59  69  55  853  23  65   1  34   1  76  10

注意事项与选择策略

可读性与复杂性:eval() 方法在处理涉及多个列的复杂或多行表达式时,通常具有更好的可读性,因为它直接模仿了数学表达式的写法。矢量化方法链式操作在表达式相对简单或可以分解为公共部分时,也非常清晰。但如果表达式非常复杂,链式调用可能会变得冗长。性能:对于非常大的DataFrame,eval() 在内部利用NumExpr库,通常能提供比纯Python循环或某些直接的Pandas操作更优的性能。矢量化方法本身在Pandas中是高度优化的,对于大多数常见操作,其性能已经非常出色。在选择时,除非有明确的性能瓶颈,否则应优先考虑代码的可读性和维护性。axis 参数的重要性:当使用如add()、sub()等方法将一个Series(如offset)与一个DataFrame或DataFrame的子集进行操作时,务必注意axis参数。axis=0表示按行(索引)对齐进行操作,这是本例中所需的行为。就地修改与副本:df.eval() 默认返回一个新的DataFrame,不会修改原始DataFrame。如果你想就地修改,可以重新赋值,如df = df.eval(…)。矢量化操作df[[‘C’, ‘D’, ‘E’]] = … 会直接修改原始DataFrame的相应列。

总结

本教程介绍了在Pandas DataFrame中对多列执行相同加减运算的两种高效方法:DataFrame.eval() 和链式矢量化方法(add(), sub())。eval() 提供了一种简洁的字符串表达式方式,适用于复杂的多行计算;而矢量化方法通过分解公共部分并利用Pandas的优化操作,同样能实现高效且清晰的代码。理解并掌握这两种方法,将有助于你更灵活、高效地处理数据,并提升代码的质量。在实际应用中,根据表达式的复杂度和对代码可读性、性能的要求,选择最适合的方法。

以上就是在Python Pandas DataFrame中高效执行列间加减运算的教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1382480.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
Python包管理:使用Pip和虚拟环境替代Conda的安装方法
上一篇 2025年12月14日 23:57:19
Pydantic 2 模型中集成正则表达式模式的最佳实践
下一篇 2025年12月14日 23:57:36

相关推荐

  • Matplotlib 地图中多类型图例的创建与优化

    Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化

    本教程旨在解决matplotlib地图可视化中,如何在一个图例中同时展示颜色块(如区域分类)和自定义标记(如特定兴趣点)的问题。文章详细介绍了当传统`patch`对象无法正确显示标记时,如何利用`matplotlib.lines.line2d`创建标记图例句柄,并将其与颜色块图例句柄合并,从而生成一…

    2026年5月10日 用户投稿
    100
  • 利用海象运算符简化条件赋值:Python教程与最佳实践

    本文旨在探讨Python中海象运算符(:=)在条件赋值场景下的应用。通过对比传统if/else语句与海象运算符,以及条件表达式,分析海象运算符在简化代码、提高可读性方面的优势与局限性。并通过具体示例,展示如何在列表推导式等场景下合理使用海象运算符,同时强调其潜在的复杂性及替代方案,帮助开发者更好地掌…

    2026年5月10日
    000
  • RichHandler与Rich Progress集成:解决显示冲突的教程

    在使用rich库的`richhandler`进行日志输出并同时使用`progress`组件时,可能会遇到显示错乱或溢出问题。这通常是由于为`richhandler`和`progress`分别创建了独立的`console`实例导致的。解决方案是确保日志处理器和进度条组件共享同一个`console`实例…

    2026年5月10日
    000
  • 理解编程指令:当结果正确,但实现方式不符要求时

    本文探讨了在编程实践中,即使程序输出了正确的结果,但若其实现方式未能严格遵循既定指令,仍可能被视为“不正确”的问题。我们将通过具体示例,对比直接求和与累加求和两种实现策略,强调理解和遵守编程规范的重要性,以确保代码的健壮性、可维护性及符合项目要求。 在软件开发过程中,我们经常会遇到这样的情况:编写的…

    2026年5月10日
    000
  • 使用 Jupyter Notebook 进行探索性数据分析

    Jupyter Notebook通过单元格实现代码与Markdown结合,支持数据导入(pandas)、清洗(fillna)、探索(matplotlib/seaborn可视化)、统计分析(describe/corr)和特征工程,便于记录与分享分析过程。 Jupyter Notebook 是进行探索性…

    2026年5月10日
    000
  • Python命令怎样使用profile分析脚本性能 Python命令性能分析的基础教程

    使用Python的cProfile模块分析脚本性能最直接的方式是通过命令行执行python -m cProfile your_script.py,它会输出每个函数的调用次数、总耗时、累积耗时等关键指标,帮助定位性能瓶颈;为进一步分析,可将结果保存为文件python -m cProfile -o ou…

    2026年5月10日
    000
  • Python递归函数追踪与性能考量:以序列打印为例

    本文深入探讨了Python中一种递归打印序列元素的方法,并着重演示了如何通过引入缩进参数来有效追踪递归函数的执行流程和参数变化。通过实际代码示例,文章揭示了递归调用可能带来的潜在性能开销,特别是对调用栈空间的需求,以及Python默认递归深度限制可能导致的错误,为读者提供了理解和优化递归算法的实用见…

    2026年5月10日
    000
  • python中zip函数详解 python多序列压缩zip函数应用场景

    zip函数的应用场景包括:1) 同时遍历多个序列,2) 合并多个列表的数据,3) 数据分析和科学计算中的元素运算,4) 处理csv文件,5) 性能优化。zip函数是一个强大的工具,能够简化代码并提高处理多个序列时的效率。 在Python中,zip函数是一个非常有用的工具,它能够将多个可迭代对象打包成…

    2026年5月10日
    000
  • Python中怎样使用pymongo?

    在python中使用pymongo可以轻松地与mongodb数据库进行交互。1)安装pymongo:pip install pymongo。2)连接到mongodb:from pymongo import mongoclient; client = mongoclient(‘mongod…

    2026年5月10日
    000
  • Python 函数参数类型:如何使用可变参数和动态参数?

    python 中的参数类型:关键词参数、可变参数和动态参数 在 python 中,函数的参数可以分为以下几种类型: 关键词参数(kw)**:这些参数具有名称,并且在调用函数时明确指定。可变参数(*args):这些参数没有名称,允许函数接受任意数量的位置参数。它们将被收集到一个元组中。动态参数(kwa…

    2026年5月10日
    000
  • JavaScript 高效判断页面所有复选框状态的技巧与实践

    本文旨在提供一套高效且专业的javascript方法,用于判断网页中所有复选框的选中状态。我们将探讨如何利用`array.some()`快速确定是否有未选中的复选框(进而判断是否全部选中),以及如何使用`array.filter()`统计选中和未选中的复选框数量。通过优化dom元素选择和数组操作,提…

    2026年5月10日
    000
  • pycharm解析器怎么添加 解析器添加详细流程

    在pycharm中添加解析器的步骤包括:1) 打开pycharm并进入设置,2) 选择project interpreter,3) 点击齿轮图标并选择add,4) 选择解析器类型并配置路径,5) 点击ok完成添加。添加解析器后,选择合适的类型和版本,配置环境变量,并利用解析器的功能提高开发效率。 在…

    2026年5月10日
    000
  • python中numpy的用法

    NumPy是Python中用于科学计算的强大库,它提供了以下功能:多维数组处理矩阵运算快速傅里叶变换(FFT)线性代数随机数生成 NumPy在Python中的强大功能 NumPy是Python中用于科学计算的一个强大且灵活的库。它提供了用于处理多维数组和矩阵的一组高效工具,是数据分析和机器学习项目的…

    2026年5月10日
    100
  • python如何捕获所有类型的异常_python try except捕获所有异常的方法

    答案:捕获所有异常推荐使用except Exception as e,可捕获常规错误并记录日志,避免影响程序正常退出;需拦截系统信号时才用except BaseException as e。 在Python中,要捕获所有类型的异常,最常见且推荐的方法是使用 except Exception as e…

    2026年5月10日
    000
  • python中f怎么用

    f-字符串是 Python 3.6 中引入的格式化字符串语法糖,提供了简洁且安全的方式来插入表达式和变量。f-字符串以字符串前缀 f 为标志,使用大括号包含表达式或变量。f-字符串支持条件表达式和格式规范符,提供了更大的灵活性、安全性、可读性和易维护性。 在 Python 中使用 f-字符串 f-字…

    2026年5月10日
    100
  • Golang如何优化日志写入性能_Golang日志写入与文件IO优化方法

    使用缓冲、异步写入、高性能日志库和优化IO策略提升Golang日志性能,推荐zap+异步缓冲+SSD组合以平衡实时性、可靠性与高并发需求。 在高并发场景下,Golang程序的日志写入可能成为性能瓶颈。频繁的文件IO操作不仅影响响应速度,还可能导致系统负载升高。要提升日志写入性能,不能只依赖简单的fm…

    2026年5月10日
    000
  • 怎么在手机上把XML文件转换为PDF?

    不可能直接在手机上用单一应用完成 XML 到 PDF 的转换。需要使用云端服务,通过两步走的方式实现:1. 在云端转换 XML 为 PDF,2. 在手机端访问或下载转换后的 PDF 文件。 怎么在手机上把XML文件转换为PDF? 这问题问得好,比直接问“怎么转换”有深度多了!因为它触及了移动端环境的…

    2026年5月10日
    000
  • ReCAPTCHA V3低分处理策略:结合V3与V2实现智能风险控制与用户验证

    本文旨在解决ReCAPTCHA V3在低分情况下无法直接触发验证码挑战的问题。我们将探讨如何通过巧妙地结合ReCAPTCHA V3的无感评分机制与ReCAPTCHA V2的交互式挑战,实现一套既能有效阻挡机器人流量,又能最大限度减少对合法用户干扰的智能验证系统。文章将详细阐述其实现原理、前端与后端集…

    2026年5月10日
    100
  • 控制HTML Canvas颜色空间输出24位深度TIFF图像

    本教程详细介绍了如何在web前端环境中,特别是结合`html2canvas`和`canvas-to-tiff`库时,通过明确设置html canvas的颜色空间为`srgb`,从而确保输出24位深度的tiff图像。文章将提供具体的javascript代码示例,并解释其原理,帮助开发者解决canvas…

    2026年5月10日
    100
  • HTML文档的基本结构是什么? 3分钟带你了解HTML文档基础框架

    html文档的基础结构由四部分组成:1. 声明,用于告知浏览器以html5标准模式解析页面,避免怪异模式导致的兼容性问题;2. 根元素,包裹整个文档内容,并可通过lang属性指定语言;3. 头部区域,包含元数据如设置字符编码、实现响应式布局、定义页面标题、引入css和favicon、加载脚本等;4.…

    2026年5月10日
    000

发表回复

登录后才能评论
关注微信