使用Pandas高效重构Excel宽表数据

使用pandas高效重构excel宽表数据

本文详细介绍了如何利用Pandas库中的pd.lreshape函数,将具有重复模式列(如id_mXX和mprice对)的宽格式Excel表格数据,高效转换为更易于分析的长格式。教程涵盖了数据加载、lreshape参数配置及代码示例,旨在提供一种专业且简洁的数据重构方案,避免传统melt函数可能带来的复杂性和空值问题。

1. 数据重构需求概述

在数据分析工作中,我们经常会遇到以“宽”格式存储的数据,其中包含大量重复模式的列组。例如,一个Excel表格可能包含多对id和mprice列,如id_m00、mprice、id_m01、mprice,依此类推。这种结构虽然在某些情况下便于数据录入,但在进行数据分析或构建模型时,通常需要将其转换为“长”格式,即每行代表一个独立的观测值,且相关的id和mprice数据分别位于单独的列中。

原始数据示例:

Date id_m00 mprice id_m01 mprice

01.01.2023aa-bb-cc12,05dd-ee-fr8,8002.01.2023aa-dd-ee09,55ff-gg-gg7,50

目标数据结构:

Date id mprice

01.01.2023aa-bb-cc12,0502.01.2023aa-dd-ee09,5501.01.2023dd-ee-fr8,8002.01.2023ff-gg-gg7,50

对于这种特定的重构需求,传统的pd.melt函数可能不够直接,容易产生额外的中间列或大量的空值,需要后续进行复杂的清理。而pd.lreshape函数则为此类场景提供了更为优雅和高效的解决方案。

2. 使用 pd.lreshape 进行数据重构

pd.lreshape函数专门用于处理具有固定模式列组的宽表数据。它的核心思想是指定一组“stubnames”(存根名称)以及这些存根名称对应的所有列,然后将它们堆叠起来。

2.1 核心概念

pd.lreshape的语法如下:pandas.lreshape(data, column_groups, dropna=False)

data: 要进行重塑的DataFrame。column_groups: 一个字典,键是新的列名(即重塑后的列名),值是一个列表,包含原始DataFrame中属于该新列名的所有列名。这些列表中的列名必须按照它们在原始DataFrame中的逻辑顺序排列,以确保正确配对。

2.2 实现步骤与代码示例

假设我们已经将Excel数据加载到一个名为df的Pandas DataFrame中。

import pandas as pd# 模拟加载原始Excel数据# 在实际应用中,您会使用 pd.read_excel("您的文件路径.xlsx")data = {    'Date': ['01.01.2023', '02.01.2023'],    'id_m00': ['aa-bb-cc', 'aa-dd-ee'],    'mprice': ['12,05', '09,55'],    'id_m01': ['dd-ee-fr', 'ff-gg-gg'],    'mprice.1': ['8,80', '7,50'] # 注意:Pandas在加载重复列名时会自动添加后缀,如 mprice.1}df = pd.DataFrame(data)print("原始DataFrame:")print(df)print("-" * 30)# 定义要重塑的列组# 使用 df.filter(like="...") 可以方便地选择所有匹配模式的列# 对于 'id' 列组,我们选择所有包含 'id_m' 的列id_columns = df.filter(like="id_m").columns.tolist()# 对于 'mprice' 列组,我们选择所有包含 'price' 的列# 注意这里我们使用了 'price' 而不是 'mprice',因为加载后可能有 'mprice.1' 等mprice_columns = df.filter(like="price").columns.tolist()# 使用 lreshape 进行重塑# column_groups 字典的键是重塑后的列名,值是原始DataFrame中对应的列名列表out = pd.lreshape(    df,    {"id": id_columns, "mprice": mprice_columns})# 格式化 mprice 列,将逗号替换为小数点并转换为数值类型out['mprice'] = out['mprice'].str.replace(',', '.').astype(float)print("n重塑后的DataFrame:")print(out)

代码解释:

数据加载模拟: pd.DataFrame(data) 模拟了从Excel文件加载数据后的DataFrame结构。特别注意,当Excel中存在同名列(如多个mprice)时,Pandas在加载时会自动为后续的同名列添加.1, .2等后缀,例如mprice.1。这是lreshape能够正确识别并配对的关键。识别列组:df.filter(like=”id_m”).columns.tolist() 会返回所有列名中包含“id_m”的列,例如[‘id_m00’, ‘id_m01’]。df.filter(like=”price”).columns.tolist() 会返回所有列名中包含“price”的列,例如[‘mprice’, ‘mprice.1’]。这些列表将作为lreshape中column_groups字典的值。执行 lreshape:{“id”: id_columns, “mprice”: mprice_columns} 定义了重塑的规则。它告诉lreshape,将id_columns列表中的所有列(按顺序)合并到新的id列下,同时将mprice_columns列表中的所有列(按顺序)合并到新的mprice列下。由于列名列表是按原始顺序提供的,lreshape能够智能地将id_m00与第一个mprice配对,id_m01与mprice.1配对,以此类推。数据类型转换: 原始数据中的mprice可能包含逗号作为小数分隔符,并且是字符串类型。out[‘mprice’].str.replace(‘,’, ‘.’).astype(float) 将其转换为标准的浮点数类型,以便后续的数值计算。

3. 注意事项与总结

列名规范性: pd.lreshape非常依赖于原始列名的模式。确保您的宽表数据中的列名遵循可识别的模式(例如,id_mXX和mprice)。Pandas加载Excel的列名处理: 当Excel文件中存在重复的列名时,pd.read_excel会自动为后续的重复列名添加数字后缀(如mprice, mprice.1, mprice.2)。lreshape正是利用了这种机制来正确匹配对应的列。因此,在构建column_groups时,使用df.filter(like=”…”)这种模式匹配的方式来获取所有相关列,比手动列出所有列名更为健壮和方便。与 melt 的区别 尽管melt也能用于宽到长的转换,但对于这种具有固定配对模式的列(如id和value总是成对出现),lreshape提供了更直接、更少中间步骤的解决方案,避免了melt可能产生的额外variable列和需要后续透视才能恢复原始配对的复杂性。性能: 对于大型数据集,lreshape通常表现出良好的性能,因为它针对这种特定类型的重塑进行了优化。

通过掌握pd.lreshape,数据分析师和工程师可以高效地处理复杂的宽表数据重构任务,将数据转换为更利于分析和建模的“长”格式,从而提升数据处理的效率和准确性。

以上就是使用Pandas高效重构Excel宽表数据的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1363110.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
Python Pandas:高效重塑Excel宽表数据为规范长表格式
上一篇 2025年12月14日 03:13:20
使用 Pandas lreshape 重构宽格式 Excel 表格数据
下一篇 2025年12月14日 03:13:32

相关推荐

  • composer require-dev和require有什么不同_Composer Require与Require-Dev区别解析

    require用于声明项目运行必需的依赖,如框架、数据库组件和第三方SDK,这些包会随项目部署到生产环境;2. require-dev用于声明仅在开发和测试阶段需要的工具,如PHPUnit、PHPStan、Faker等,不会默认部署到生产环境;3. 安装时composer install根据环境决定…

    2026年5月10日
    1000
  • php常量怎么用_PHP常量(define/const)定义与使用方法

    PHP中可通过define函数和const关键字定义常量,用于存储不可变值。define适用于全局作用域,支持动态名称和条件定义,如define(‘SITE_NAME’, ‘MyWebsite’);const在编译时生效,语法简洁但限制多,只能在类或全…

    2026年5月10日
    000
  • Go语言接口与切片:如何识别和操作[]interface{}

    本文将深入探讨Go语言中如何识别和操作`[]interface{}`类型的切片。我们将介绍类型断言(Type Assertion)的关键作用,并通过`switch`语句演示如何安全地检测`[]interface{}`类型,并进而遍历其内部元素。文章旨在提供清晰的示例代码和专业指导,帮助开发者有效地处…

    2026年5月10日
    000
  • 虫虫漫画直接进入官网入口_虫虫漫画网页版清爽版

    虫虫漫画直接进入官网入口_虫虫漫画网页版清爽版虫虫漫画直接进入官网入口_虫虫漫画网页版清爽版虫虫漫画直接进入官网入口_虫虫漫画网页版清爽版虫虫漫画直接进入官网入口_虫虫漫画网页版清爽版

    虫虫漫画官网入口为www.ccmh.com,用户可直接通过浏览器访问,支持多端适配与账号同步功能,界面简洁无广告,提供海量国漫、日漫、韩漫资源,涵盖恋爱、玄幻等热门题材,更新及时,支持多种阅读模式及离线缓存,阅读体验流畅。 虫虫漫画直接进入官网入口在哪里?这是不少网友都关注的,接下来由PHP小编为大…

    2026年5月10日 用户投稿
    100
  • c++中头文件和源文件的区别_c++头文件与源文件作用对比

    头文件声明接口,源文件实现逻辑。头文件含类、函数声明及宏定义,通过#include被多文件共享,用include守卫防重;源文件实现具体功能,编译为目标文件后由链接器合并。声明与实现分离提升模块化与编译效率,模板和内联函数因需编译时可见故常置于头文件,命名空间避免符号冲突,整体结构使项目更清晰易维护…

    2026年5月10日
    000
  • Go语言中复制数组的几种方法详解

    本文介绍了在 Go 语言中复制数组和切片的几种方法,重点讲解了内置的 `copy` 函数的使用方式,以及在多维切片场景下深拷贝与浅拷贝的区别,并提供了相应的代码示例。通过本文,你将掌握在不同场景下选择合适的复制方法,避免潜在的陷阱。 在 Go 语言中,复制数组和切片是一个常见的操作。根据不同的需求,…

    2026年5月10日
    000
  • 如何根据当前月份动态排序 1-12 月?

    根据当前月份动态排序 1-12 月 想要实现根据当前月份动态排序 1-12 月,可以通过参考以下方法: 创建月份数组:首先,创建一个包含 1-12 月信息(如名称和值)的月份数组。获取当前月份:获取 javascript 中表示当前月份的数值(从 0 到 11)。重新排序月份数组:使用 javasc…

    2026年5月10日
    000
  • HTML/CSS中链接与按钮的正确嵌套:避免文本超链接化与结构优化指南

    本教程旨在解决HTML中链接()与按钮(button)或类按钮元素嵌套不当导致非预期文本超链接化的问题。我们将通过修正标签的错误闭合,并推荐使用 等语义化元素作为链接内容并应用按钮样式,来创建功能正确、结构清晰且包含文本或图像的交互式按钮,从而提升页面的可维护性和用户体验。 在网页开发中,我们经常需…

    2026年5月10日
    000
  • 解决PHP foreach循环中变量“继承”问题:理解与避免意外数据泄露

    本文探讨PHP foreach循环中一个常见的陷阱:当循环内部的数组或变量未被显式初始化时,其值可能会“继承”自上一次循环迭代,导致意外的数据泄露和逻辑错误。文章将深入分析这一现象的根源,并通过示例代码展示如何通过在每次迭代开始时正确初始化变量来解决此问题,确保代码行为的预期一致性。 引言:fore…

    2026年5月10日
    100
  • Angular mat-tab 高度自适应与布局优化指南

    本教程旨在解决Angular Material mat-tab组件在Flexbox布局中无法自动填充父容器高度的问题。文章将深入分析问题根源,并提供使用CSS深度选择器(::ng-deep)精确控制mat-tab-body-wrapper和mat-tab-body高度的解决方案,确保组件在指定布局下…

    2026年5月10日
    000
  • Pandas:基于条件和 Groupby 替换列中的特定字符

    本文介绍了如何使用 Pandas 库,结合 groupby 函数和字符串操作,根据特定条件替换 DataFrame 列中的字符。通过累积计数和字典映射,能够灵活地修改列中的特定部分,并根据替换值调整相关文本,实现数据清洗和转换的目的。 在数据分析和处理中,经常需要根据特定条件修改 DataFrame…

    2026年5月10日
    000
  • html如何制作水印_HTML水印(文字/图片)添加与设置方法

    使用CSS和HTML可实现网页水印,方法包括:一、通过background-image与data URI嵌入斜向文字水印;二、利用伪元素结合transform旋转生成叠加文字层;三、插入img标签或背景图设置固定位置图片水印;四、用Canvas绘制多行斜纹并转Base64作背景;五、通过禁用右键、屏…

    2026年5月10日
    100
  • 使用CSS Grid实现不规则列布局:告别传统表格的限制

    本教程详细阐述如何利用css grid实现复杂的、不规则的列布局,尤其适用于那些传统html表格难以实现的块状结构。文章将通过具体的css属性和html结构示例,指导读者如何定义网格、控制子项的跨度与位置,以及优化自动布局流程,从而高效构建灵活且响应式的页面布局。 1. 传统表格的局限与CSS Gr…

    2026年5月10日
    000
  • Go语言中sync.WaitGroup的深度解析与实践

    sync.WaitGroup是Go语言中用于并发编程的重要同步原语,它允许主协程等待一组子协程执行完毕。本文将深入探讨WaitGroup的工作原理、典型使用模式及其与sync.Mutex等其他同步机制的区别,并通过实际代码示例,帮助读者掌握其在并发控制中的应用,避免常见的误区,确保并发程序的正确性和…

    2026年5月10日
    000
  • HTML文档脚本怎么加载_HTML加载JavaScript教程

    脚本应优先通过defer或async异步加载以避免阻塞渲染;将脚本放在body底部可防阻塞,但推荐使用defer确保DOM解析完成后再执行;async适用于独立脚本,defer用于依赖DOM或需顺序执行的脚本;优化方式包括代码分割、懒加载、CDN加速和浏览器缓存;加载失败时应重试、降级处理并监控错误…

    2026年5月10日
    000
  • CSS Flexbox:在居中对齐时优雅地控制元素间距

    本文深入探讨了在css flexbox布局中,当容器使用`display: flex`和`justify-content: center`进行居中对齐时,如何有效地在子元素之间添加间距。我们将分析传统方法(如子元素的`margin`和容器的`padding`)的局限性,并重点介绍现代且推荐的`gap…

    2026年5月10日
    000
  • WordPress自定义主题中根据文章数量动态显示/隐藏“查看更多”按钮的教程

    本教程旨在指导开发者如何在wordpress自定义主题中,根据特定文章类型和分类的实际数量,动态控制“查看更多”按钮的显示与隐藏。我们将利用 wp_query 及其 found_posts 属性,精确判断符合条件的文章总数,从而在有更多文章时显示按钮,在无文章时显示提示信息,优化用户体验。 引言 在…

    2026年5月10日
    000
  • Python怎么实现一个上下文管理器_Python上下文管理器协议实现

    自定义Python上下文管理器需实现__enter__和__exit__方法,前者在进入with块时获取资源并返回对象,后者在退出时释放资源并可处理异常;通过类或contextlib.contextmanager装饰生成器函数均可创建;文件操作中with open()自动关闭文件是典型应用;__ex…

    2026年5月10日
    000
  • JavaScript解释器_javascript代码执行

    JavaScript通过引擎解析执行,先语法分析生成AST,再编译为字节码或机器码,最后执行;执行时创建上下文并入栈,同步代码直接运行,异步任务由API处理后回调入队,事件循环在调用栈空时将回调推入执行;此机制解释了变量提升、暂时性死区及宏任务与微任务执行顺序差异。 JavaScript代码的执行依…

    2026年5月10日
    000
  • C#如何处理异常?C# try-catch-finally最佳实践与常见错误规避

    正确使用 try-catch-finally 应捕获具体异常、用 finally 或 using 释放资源、避免空 catch 和裸抛异常,确保异常日志记录并保留堆栈跟踪,提升代码健壮性与可维护性。 在C#中,异常处理是保障程序稳定运行的重要机制。正确使用 try-catch-finally 结构不…

    2026年5月10日
    000

发表回复

登录后才能评论
关注微信