Pandas:高效整合多工作表Excel数据教程

Pandas:高效整合多工作表Excel数据教程

本教程详细介绍了如何使用Python的Pandas库高效地处理和整合来自多个Excel文件中的特定工作表数据。我们将学习如何遍历目录、识别Excel文件、加载文件、提取指定工作表的数据并将其存储到一个字典中,同时解决常见的AttributeError: ‘str’ object has no attribute ‘sheet_names’错误,并探讨如何进一步实现跨文件同名工作表的合并。

1. 引言与背景

在数据分析和处理的日常工作中,我们经常会遇到需要从多个excel文件中提取特定数据的情况。这些excel文件可能包含多个工作表,而我们只对其中某些特定名称的工作表感兴趣。本教程旨在提供一个清晰、专业的指南,利用python的pandas库来自动化这一过程,将所需数据整合到一个方便操作的字典结构中。

2. 核心工具介绍

本教程主要依赖于以下两个Python库:

os 模块:用于操作系统相关的交互,例如遍历文件目录和构建文件路径。pandas 库:强大的数据处理库,尤其适用于表格数据。我们将使用其ExcelFile对象来读取Excel文件及其包含的工作表,并使用parse()方法将工作表数据加载为DataFrame。

3. 解决 AttributeError: ‘str’ object has no attribute ‘sheet_names’

在处理Excel文件时,一个常见的错误是尝试在文件路径字符串上调用sheet_names属性。例如,path.sheet_names()会导致AttributeError。这是因为sheet_names是pandas.ExcelFile对象的方法,而不是一个普通的字符串。

错误原因分析:当你通过os.path.join(root, fname)获取到的是一个字符串,代表Excel文件的完整路径。要访问工作表名称,你需要先使用pd.ExcelFile()将这个路径字符串封装成一个ExcelFile对象。

正确做法:

import pandas as pd# file_path 是一个字符串,例如 'data/my_excel.xlsx'xls_file = pd.ExcelFile(file_path) # 创建一个ExcelFile对象for sheet_name in xls_file.sheet_names: # 现在可以正确访问sheet_names属性    print(sheet_name)

4. 整合多个Excel文件中的特定工作表数据

以下是实现这一目标的代码示例,它将遍历指定目录下的所有Excel文件,提取名为“Portfolios”或“SP Search Term Req”的工作表数据,并将每个工作表的数据存储为一个Pandas DataFrame,最终将这些DataFrame收集到一个字典中。

import osimport pandas as pd# 1. 定义Excel文件所在的根目录# 请将 'your/excel/files/path' 替换为实际的目录路径excel_root_path = 'your/excel/files/path'# 2. 初始化一个字典,用于存储提取出的DataFrame# 字典的键将是工作表名称,值将是对应工作表的DataFramedf_dict_flex = {}# 3. 遍历指定目录及其子目录下的所有文件for root, _, files in os.walk(excel_root_path):    for fname in files:        # 4. 构造文件的完整路径        file_path = os.path.join(root, fname)        # 5. 确保只处理Excel文件(.xlsx 或 .xls 扩展名)        if file_path.endswith(('.xlsx', '.xls')):            try:                # 6. 使用pd.ExcelFile加载Excel文件,获得ExcelFile对象                xls_file = pd.ExcelFile(file_path)                print(f"正在处理文件: {file_path}")                # 7. 遍历当前Excel文件中的所有工作表                for sheet_name in xls_file.sheet_names:                    print(f"  发现工作表: {sheet_name}")                    # 8. 检查工作表名称是否符合我们的条件                    # 这里我们筛选 'Portfolios' 和 'SP Search Term Req' 两个工作表                    if sheet_name == 'Portfolios' or sheet_name == 'SP Search Term Req':                        # 9. 解析指定工作表的数据为DataFrame                        df = xls_file.parse(sheet_name)                        # 10. 将DataFrame存储到字典中                        # 注意:如果多个文件包含同名工作表,后处理的文件会覆盖前一个文件的数据                        # 如果需要合并同名工作表的数据,请参考下一节的“进一步合并同名工作表”                        df_dict_flex[sheet_name] = df                        print(f"    已将工作表 '{sheet_name}' 的数据加载到字典中。")            except Exception as e:                print(f"处理文件 '{file_path}' 时发生错误: {e}")                continue # 继续处理下一个文件# 11. 打印最终的字典内容(可选,用于验证)# print("n最终整合的DataFrame字典:")# for sheet_name, df in df_dict_flex.items():#     print(f"  工作表 '{sheet_name}' 包含 {len(df)} 行数据。")#     print(df.head()) # 打印前几行数据进行预览

5. 注意事项与最佳实践

路径设置:务必将excel_root_path变量替换为你的Excel文件实际所在的目录路径。文件类型过滤:代码中通过file_path.endswith((‘.xlsx’, ‘.xls’))确保只处理Excel文件,避免尝试用Pandas打开非Excel文件导致错误。错误处理:使用try-except块捕获文件加载或解析过程中可能出现的错误,增强代码的健壮性。df_dict_flex 的行为:当前代码逻辑是,如果多个Excel文件包含名称相同的工作表(例如,多个文件都有“Portfolios”工作表),那么df_dict_flex[sheet_name] = df会覆盖之前存储的数据,最终字典中只会保留最后一个被处理的同名工作表的数据。内存管理:如果处理大量大型Excel文件,内存消耗可能会很高。考虑逐个处理文件并及时释放不再需要的DataFrame,或者使用chunksize参数分块读取。

6. 进一步合并同名工作表数据

如果你的目标是,对于所有Excel文件中名称相同的工作表,将其数据合并(例如,纵向拼接)成一个单一的DataFrame,那么上述代码需要进行修改。

以下是实现这一目标的扩展代码示例:

import osimport pandas as pdexcel_root_path = 'your/excel/files/path' # 替换为你的路径merged_df_by_sheet = {} # 存储最终合并的DataFrame,键为工作表名for root, _, files in os.walk(excel_root_path):    for fname in files:        file_path = os.path.join(root, fname)        if file_path.endswith(('.xlsx', '.xls')):            try:                xls_file = pd.ExcelFile(file_path)                print(f"正在处理文件: {file_path}")                for sheet_name in xls_file.sheet_names:                    if sheet_name == 'Portfolios' or sheet_name == 'SP Search Term Req':                        df = xls_file.parse(sheet_name)                        # 如果该工作表名已存在于字典中,则进行纵向拼接                        if sheet_name in merged_df_by_sheet:                            merged_df_by_sheet[sheet_name] = pd.concat(                                [merged_df_by_sheet[sheet_name], df],                                 ignore_index=True # 重新生成索引                            )                            print(f"    已将工作表 '{sheet_name}' 的数据与现有数据合并。")                        else:                            # 否则,首次添加该工作表的数据                            merged_df_by_sheet[sheet_name] = df                            print(f"    已将工作表 '{sheet_name}' 的数据添加到字典。")            except Exception as e:                print(f"处理文件 '{file_path}' 时发生错误: {e}")                continue# 打印最终合并的DataFrame(可选)# for sheet_name, df in merged_df_by_sheet.items():#     print(f"n合并后的工作表 '{sheet_name}' 包含 {len(df)} 行数据。")#     print(df.head())

通过这种方式,merged_df_by_sheet字典将为每个符合条件的工作表名称存储一个包含所有相关Excel文件数据的合并DataFrame。

7. 总结

本教程详细讲解了如何利用Python和Pandas库来批量处理多个Excel文件,并从中提取特定工作表的数据。我们不仅解决了常见的AttributeError,还提供了两种数据存储策略:一种是将每个符合条件的工作表数据独立存储,另一种是将所有文件中同名工作表的数据进行纵向合并。掌握这些技术将大大提高你在数据整合方面的效率和灵活性。请根据你的具体需求选择合适的代码实现。

以上就是Pandas:高效整合多工作表Excel数据教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1374426.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 14:08:51
下一篇 2025年12月14日 14:09:10

相关推荐

  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 使用 Mask 导入本地图片时,如何解决跨域问题?

    跨域疑难:如何解决 mask 引入本地图片产生的跨域问题? 在使用 mask 导入本地图片时,你可能会遇到令人沮丧的跨域错误。为什么会出现跨域问题呢?让我们深入了解一下: mask 框架假设你以 http(s) 协议加载你的 html 文件,而当使用 file:// 协议打开本地文件时,就会产生跨域…

    2025年12月24日
    200
  • Bear 博客上的浅色/深色模式分步指南

    我最近使用偏好颜色方案媒体功能与 light-dark() 颜色函数相结合,在我的 bear 博客上实现了亮/暗模式切换。 我是这样做的。 第 1 步:设置 css css 在过去几年中获得了一些很酷的新功能,包括 light-dark() 颜色函数。此功能可让您为任何元素指定两种颜色 &#8211…

    2025年12月24日
    100
  • 如何在 Web 开发中检测浏览器中的操作系统暗模式?

    检测浏览器中的操作系统暗模式 在 web 开发中,用户界面适应操作系统(os)的暗模式设置变得越来越重要。本文将重点介绍检测浏览器中 os 暗模式的方法,从而使网站能够针对不同模式调整其设计。 w3c media queries level 5 最新的 web 标准引入了 prefers-color…

    2025年12月24日
    000
  • 如何使用 CSS 检测操作系统是否处于暗模式?

    如何在浏览器中检测操作系统是否处于暗模式? 新发布的 os x 暗模式提供了在 mac 电脑上使用更具沉浸感的用户界面,但我们很多人都想知道如何在浏览器中检测这种设置。 新标准 检测操作系统暗模式的解决方案出现在 w3c media queries level 5 中的最新标准中: 立即学习“前端免…

    2025年12月24日
    000
  • 如何检测浏览器环境中的操作系统暗模式?

    浏览器环境中的操作系统暗模式检测 在如今科技的海洋中,越来越多的设备和软件支持暗模式,以减少对眼睛的刺激并营造更舒适的视觉体验。然而,在浏览器环境中检测操作系统是否处于暗模式却是一个令人好奇的问题。 检测暗模式的标准 要检测操作系统在浏览器中是否处于暗模式,web 开发人员可以使用 w3c 的媒体查…

    2025年12月24日
    200
  • 浏览器中如何检测操作系统的暗模式设置?

    浏览器中的操作系统暗模式检测 近年来,随着用户对夜间浏览体验的偏好不断提高,操作系统已开始引入暗模式功能。作为一名 web 开发人员,您可能想知道如何检测浏览器中操作系统的暗模式状态,以相应地调整您网站的设计。 新 media queries 水平 w3c 的 media queries level…

    2025年12月24日
    000
  • 正则表达式在文本验证中的常见问题有哪些?

    正则表达式助力文本输入验证 在文本输入框的验证中,经常遇到需要限定输入内容的情况。例如,输入框只能输入整数,第一位可以为负号。对于不会使用正则表达式的人来说,这可能是个难题。下面我们将提供三种正则表达式,分别满足不同的验证要求。 1. 可选负号,任意数量数字 如果输入框中允许第一位为负号,后面可输入…

    2025年12月24日
    000
  • 我在学习编程的第一周学到的工具

    作为一个刚刚完成中学教育的女孩和一个精通技术并热衷于解决问题的人,几周前我开始了我的编程之旅。我的名字是OKESANJO FATHIA OPEYEMI。我很高兴能分享我在编码世界中的经验和发现。拥有计算机科学背景的我一直对编程提供的无限可能性着迷。在这篇文章中,我将反思我在学习编程的第一周中获得的关…

    2025年12月24日
    000
  • 为什么多年的经验让我选择全栈而不是平均栈

    在全栈和平均栈开发方面工作了 6 年多,我可以告诉您,虽然这两种方法都是流行且有效的方法,但它们满足不同的需求,并且有自己的优点和缺点。这两个堆栈都可以帮助您创建 Web 应用程序,但它们的实现方式却截然不同。如果您在两者之间难以选择,我希望我在两者之间的经验能给您一些有用的见解。 在这篇文章中,我…

    2025年12月24日
    000
  • 姜戈顺风

    本教程演示如何在新项目中从头开始配置 django 和 tailwindcss。 django 设置 创建一个名为 .venv 的新虚拟环境。 # windows$ python -m venv .venv$ .venvscriptsactivate.ps1(.venv) $# macos/linu…

    2025年12月24日
    000
  • 花 $o 学习这些编程语言或免费

    → Python → JavaScript → Java → C# → 红宝石 → 斯威夫特 → 科特林 → C++ → PHP → 出发 → R → 打字稿 []https://x.com/e_opore/status/1811567830594388315?t=_j4nncuiy2wfbm7ic…

    2025年12月24日
    000
  • 使用CSS3实现模拟IOS滑动开关效果

    这篇文章主要为大家详细介绍了css3模拟ios滑动开关效果,具有一定的参考价值,感兴趣的小伙伴们可以参考一下 前言 H5站点需要IOS滑动按钮的效果,想了想似乎CSS3能搞起,就折腾出来了…挺简单的..请看注释 效果 代码 立即学习“前端免费学习笔记(深入)”; CSS3模拟IOS开关 …

    2025年12月24日
    000
  • 响应式HTML5按钮适配不同屏幕方法【方法】

    实现响应式HTML5按钮需五种方法:一、CSS媒体查询按max-width断点调整样式;二、用rem/vw等相对单位替代px;三、Flexbox控制容器与按钮伸缩;四、CSS变量配合requestAnimationFrame优化的JS动态适配;五、Tailwind等框架的响应式工具类。 如果您希望H…

    2025年12月23日
    000
  • html5怎么导视频_html5用video标签导出或Canvas转DataURL获视频【导出】

    HTML5无法直接导出video标签内容,需借助Canvas捕获帧并结合MediaRecorder API、FFmpeg.wasm或服务端协同实现。MediaRecorder适用于WebM格式前端录制;FFmpeg.wasm支持MP4等格式及精细编码控制;服务端方案适合高负载场景。 如果您希望在网页…

    2025年12月23日
    300
  • 如何查看编写的html_查看自己编写的HTML文件效果【效果】

    要查看HTML文件的浏览器渲染效果,需确保文件以.html为扩展名保存、用浏览器直接打开、利用开发者工具调试、必要时启用本地HTTP服务器、或使用编辑器实时预览插件。 如果您编写了HTML代码,但无法直观看到其在浏览器中的实际渲染效果,则可能是由于文件未正确保存、未使用浏览器打开或文件扩展名设置错误…

    2025年12月23日
    400
  • node.js怎么运行html_node.js运行html步骤【指南】

    答案是使用Node.js内置http模块、Express框架或第三方工具serve可快速搭建服务器预览HTML文件。首先通过http模块创建服务器并读取index.html返回响应;其次用Express初始化项目并配置静态文件服务;最后利用serve工具全局安装后一键启动服务器,三种方式均在浏览器访…

    2025年12月23日
    300
  • html5游戏怎么修改_HT5改JS逻辑或资源文件调整游戏玩法效果【修改】

    需直接编辑核心JavaScript代码或替换图片、音频等资源文件;先用浏览器开发者工具的Sources面板定位含game、main等关键词的.js文件,再搜索score++、if (health等逻辑片段进行修改。 如果您下载了某个HTML5游戏的本地文件,希望调整其玩法逻辑或替换资源以改变视觉效果…

    2025年12月23日
    000
  • html5怎么重叠图片_html5用position:absolute或z-index让图片重叠【重叠】

    在HTML5中实现图片重叠需结合CSS定位与层叠控制:一、用position:absolute+top/left精确定位,父容器设position:relative;二、用z-index设定堆叠顺序(需已定位);三、用transform:translate()实现无文档流干扰的偏移重叠;四、用CSS…

    2025年12月23日
    200
  • html5怎么打包运行_HT5用Webpack或Gulp打包后浏览器打开运行【打包】

    应通过 HTTP 服务运行打包后的 HTML5 页面,而非双击打开:一、Webpack 配 webpack-dev-server 启动本地服务;二、Gulp 配 BrowserSync 提供实时重载;三、用 Python/Node.js 轻量 HTTP 工具托管 dist 目录;四、仅当必须双击运行…

    2025年12月23日
    000

发表回复

登录后才能评论
关注微信