使用Pandas高效合并多Excel文件中的指定工作表数据

使用pandas高效合并多excel文件中的指定工作表数据

本教程详细介绍了如何利用Python的Pandas库合并多个Excel文件中的特定工作表数据。我们将学习如何遍历文件目录、识别Excel文件、加载多工作簿文件、根据工作表名称筛选数据,并将选定的工作表内容存储到Python字典中,最终形成结构化的DataFrame集合,同时会指出并解决常见的AttributeError。

在日常数据处理中,我们经常会遇到需要从多个Excel文件中提取特定数据并进行整合的场景。这些Excel文件可能包含多个工作表,而我们只对其中某些特定名称的工作表感兴趣。本教程将引导您使用Pandas库,以专业且高效的方式完成这项任务。

1. 准备工作与核心概念

在开始之前,请确保您已安装了Pandas库。如果尚未安装,可以使用以下命令进行安装:

pip install pandas openpyxl

openpyxl是Pandas读取.xlsx文件所需的引擎。

核心概念:

os.walk(): 用于遍历指定目录及其子目录下的所有文件和文件夹。pandas.ExcelFile(): Pandas提供的一个强大工具,用于加载整个Excel工作簿,使其能够访问所有工作表的名称和内容。xls_file.sheet_names: ExcelFile对象的一个属性,返回一个包含所有工作表名称的列表。xls_file.parse(): ExcelFile对象的方法,用于将指定名称的工作表解析为DataFrame。

2. 详细实现步骤

我们将通过一个具体的代码示例来演示如何合并数据。

2.1 导入必要的库

首先,我们需要导入os库用于文件系统操作,以及pandas库用于数据处理。

import osimport pandas as pd

2.2 定义Excel文件路径

指定存放所有Excel文件的根目录。请将’your/excel/files/path’替换为您的实际路径。

# 定义Excel文件所在的路径path = 'your/excel/files/path' 

2.3 初始化数据存储字典

我们使用一个字典df_dict_flex来存储从各个Excel文件中提取出的DataFrame。字典的键可以是工作表名称,值是对应的DataFrame。

# 初始化一个字典,用于存储DataFramesdf_dict_flex = {}

2.4 遍历文件目录并处理Excel文件

使用os.walk()遍历指定路径下的所有文件。对于每个找到的文件,我们需要进行以下操作:

构建完整文件路径:os.path.join(root, fname)将目录路径和文件名组合成完整的路径。筛选Excel文件:通过检查文件扩展名(.xlsx或.xls)来确保我们只处理Excel文件。加载Excel文件:使用pd.ExcelFile(file_path)加载整个Excel工作簿。这是解决AttributeError的关键一步。遍历工作表:通过xls_file.sheet_names获取所有工作表名称,并逐一遍历。条件筛选与解析:根据预设条件(例如,工作表名称是否为’Portfolios’或’SP Search Term Req’)来选择性地解析工作表数据。存储DataFrame:将解析后的DataFrame存储到df_dict_flex字典中。

# 遍历包含Excel文件的目录for root, dirs, files in os.walk(path):    for fname in files:        # 构造完整的文件路径        file_path = os.path.join(root, fname)        # 确保只处理Excel文件        if file_path.endswith('.xlsx') or file_path.endswith('.xls'):            try:                # 加载Excel文件                xls_file = pd.ExcelFile(file_path)                print(f"正在处理文件: {file_path}")                # 提取并遍历每个Excel文件中的工作表名称                for sheet_name in xls_file.sheet_names:                    print(f"  发现工作表: {sheet_name}")                    # 检查工作表名称是否符合给定条件                    # 此处示例是选择名称为 'Portfolios' 或 'SP Search Term Req' 的工作表                    if sheet_name == 'Portfolios' or sheet_name == 'SP Search Term Req':                        # 将特定工作表解析为DataFrame                        df = xls_file.parse(sheet_name)                        # 将DataFrame存储在字典中,以工作表名称为键                        # 注意:如果多个文件有同名且符合条件的工作表,后面的会覆盖前面的。                        # 若需合并同名工作表数据,请参考“注意事项”部分。                        df_dict_flex[sheet_name] = df                        print(f"    已解析并存储工作表: {sheet_name}")            except Exception as e:                print(f"处理文件 {file_path} 时发生错误: {e}")# 此时,df_dict_flex 字典中包含了所有符合条件的工作表的DataFramesprint("n所有符合条件的工作表已合并到 df_dict_flex 字典中。")print("字典键 (工作表名称):", df_dict_flex.keys())

3. 解决 AttributeError: ‘str’ object has no attribute ‘sheet_names’

原始代码中出现的AttributeError: ‘str’ object has no attribute ‘sheet_names’错误,是因为您尝试在一个字符串对象(path,即文件路径)上调用sheet_names()方法。sheet_names是pandas.ExcelFile对象的一个属性,而不是字符串的属性。

错误原因分析:在原始代码片段中,for sheet_name in path.sheet_names(): 这一行,path变量实际上是一个字符串,代表文件路径。字符串对象没有sheet_names这个方法或属性,因此Python抛出了AttributeError。

正确做法:您必须先使用pd.ExcelFile(file_path)将文件路径加载为一个ExcelFile对象,然后才能访问该对象的sheet_names属性。修正后的代码通过xls_file = pd.ExcelFile(file_path)创建了xls_file对象,后续对xls_file.sheet_names的访问才是正确的。

4. 注意事项与进阶应用

路径替换:务必将代码中的’your/excel/files/path’替换为您的实际文件路径。错误处理:在文件操作中,使用try-except块来捕获潜在的错误(例如文件不存在、文件损坏、权限问题等)是一个良好的编程习惯,可以提高代码的健壮性。工作表名称匹配:如果您需要排除某些工作表,可以将条件改为if sheet_name != ‘排除工作表1’ and sheet_name != ‘排除工作表2’:。如果您需要更灵活的匹配(例如包含特定子字符串的工作表),可以使用if ‘关键词’ in sheet_name:。对于复杂的模式匹配,可以考虑使用正则表达式同名工作表处理:当前代码逻辑是,如果多个Excel文件中有同名且符合条件的工作表,df_dict_flex[sheet_name] = df会覆盖之前的数据。如果您希望将所有同名工作表的数据合并(例如,追加到同一个DataFrame中),您需要修改逻辑,例如:

if sheet_name in df_dict_flex:    df_dict_flex[sheet_name] = pd.concat([df_dict_flex[sheet_name], df], ignore_index=True)else:    df_dict_flex[sheet_name] = df

这会将所有名为sheet_name的工作表数据堆叠起来。

数据进一步处理:df_dict_flex现在包含了您所需的所有DataFrame。您可以根据需要对这些DataFrame进行进一步的分析、合并或保存。例如,如果您想将所有提取出的DataFrame合并成一个大的DataFrame,并且它们结构相似,可以这样做:

# 假设所有提取的DataFrames结构相似,可以合并final_combined_df = pd.concat(df_dict_flex.values(), ignore_index=True)print("n所有提取的DataFrame合并后的总数据:")print(final_combined_df.head())

5. 总结

本教程提供了一个健壮且灵活的Python Pandas解决方案,用于从多个Excel文件中提取并合并特定工作表的数据。通过理解os.walk()和pandas.ExcelFile()的用法,以及正确处理AttributeError,您可以高效地自动化复杂的Excel数据整合任务。根据您的具体需求,可以进一步扩展代码以实现更复杂的筛选、合并和数据处理逻辑。

以上就是使用Pandas高效合并多Excel文件中的指定工作表数据的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1374424.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 14:08:43
下一篇 2025年12月14日 14:09:01

相关推荐

  • Python colorspace 库安装指南:规避常见错误与正确实践

    本教程旨在解决 python-colorspace 库安装时遇到的常见问题,特别是 No matching distribution found 错误。由于该库尚未发布至 PyPI,直接使用 pip install 会失败。文章将详细介绍官方推荐的安装方法,包括通过 Git 仓库安装和直接从 Git…

    好文分享 2025年12月14日
    000
  • Pandas:高效整合多工作表Excel数据教程

    本教程详细介绍了如何使用Python的Pandas库高效地处理和整合来自多个Excel文件中的特定工作表数据。我们将学习如何遍历目录、识别Excel文件、加载文件、提取指定工作表的数据并将其存储到一个字典中,同时解决常见的AttributeError: ‘str’ objec…

    2025年12月14日
    000
  • Python中将特定格式字符串列表转换为字典的简洁方法

    本教程将介绍如何将形如 [‘KEY = (VALUE)’, …] 的字符串列表高效转换为字典。通过利用 Python 的 dict 构造器与生成器表达式,我们可以实现一行代码的简洁转换,避免多行处理,提升代码可读性和效率。 在python编程中,我们经常会遇到需要…

    2025年12月14日
    000
  • 扩展 Django 用户模型:添加自定义字段

    本文将介绍如何在 Django 中扩展默认的 User 模型,无需使用一对一关联,直接添加自定义字段。通过创建自定义用户模型并配置 AUTH_USER_MODEL,你可以轻松地在用户注册和管理中包含额外的 boolean 或 choice fields,并确保这些字段在 admin 后台正确显示和管…

    2025年12月14日
    000
  • 扩展 Django User 模型:无需一对一字段关联

    本文旨在提供一种无需通过一对一字段关联其他模型的方式,扩展 Django 内置 User 模型的方法。通过继承 AbstractUser 类,开发者可以方便地添加自定义字段,例如布尔值或选择字段,从而在用户注册和管理过程中纳入更多个性化信息。本文将详细介绍如何创建自定义用户模型,配置 AUTH_US…

    2025年12月14日
    000
  • python怎么导入pygame模块

    首先需安装pygame模块,使用pip install pygame命令;安装后通过import pygame导入并用pygame.init()初始化;最后运行测试代码打印“Pygame 导入成功!”验证导入。 要导入 pygame 模块,首先必须确保它已经安装在你的 Python 环境中。如果尚未…

    2025年12月14日
    000
  • 嵌套列表子列表中重复元素求和的正确方法

    本文旨在解决嵌套列表中跨子列表重复元素求和的问题。传统方法可能因扁平化列表而导致错误结果,尤其是在重复元素仅存在于单个子列表中的情况下。本文将介绍一种更有效的方法,利用字典统计元素出现次数,从而准确计算跨子列表重复元素的总和。 问题描述 给定一个嵌套列表,其中包含多个子列表,每个子列表包含整数。我们…

    2025年12月14日
    000
  • PyInstaller打包外部可执行文件教程:嵌入与运行

    本教程详细介绍了如何使用PyInstaller的.spec文件将外部可执行文件(如ffmpeg)打包到Python应用程序的独立可执行文件中。通过利用sys._MEIPASS在运行时定位这些嵌入式资源,并结合.spec文件中的datas参数,确保应用程序能够成功调用外部工具,解决了FileNotFo…

    2025年12月14日
    000
  • Scrapy CSS 选择器:精确提取HTML标签内部文本(::text)教程

    本教程将详细介绍在 Scrapy 中使用 CSS 选择器时,如何通过 ::text 伪元素精确地从 HTML 标签中提取纯文本内容,而非包含标签的完整 HTML 片段。文章将通过示例代码展示 ::text 的用法,并解释如何处理单个或多个匹配项,帮助开发者高效、准确地抓取所需数据。 理解 ::tex…

    2025年12月14日
    000
  • Python程序调试模式检测:PyCharm 2023+兼容方案

    PyCharm 2023.3更新后,传统的sys.gettrace()方法已无法准确判断Python程序是否运行在调试模式。本文介绍了一种新的兼容性方案,通过结合sys.gettrace()和sys.breakpointhook来可靠检测调试状态。该方法适用于PyCharm、VS Code和pdb等…

    2025年12月14日
    000
  • Python多版本环境下的包管理与安装策略

    本文深入探讨了在多Python版本共存环境下,pip install命令可能导致包安装到非预期版本的问题,并提供了两种核心解决方案:一是通过明确指定Python解释器版本来执行pip命令,确保包安装的精准性;二是推荐使用Python虚拟环境(venv),实现项目依赖的有效隔离与管理,从而彻底避免版本…

    2025年12月14日
    000
  • Python isort 配置:实现基于行长度的条件式多行导入格式化

    本教程详细介绍了如何配置 isort 和 VSCode,以实现 Python 导入语句的智能格式化。通过在 pyproject.toml 文件中设置 isort 的 multi_line_output 和 force_grid_wrap 参数,并相应调整 VSCode 的 settings.json…

    2025年12月14日
    000
  • Python描述符陷阱:为何内部名称必须与外部属性名不同

    本文深入探讨了Python描述符在使用getattr和setattr访问实例属性时,因内部名称与外部属性名冲突导致的无限递归问题。通过分析其工作原理,阐明了将描述符内部存储的属性名与外部公开的属性名区分开的重要性,并提供了避免RecursionError的解决方案及最佳实践。 理解Python描述符…

    2025年12月14日
    000
  • Langchain LCEL链式调用详细日志输出实践指南

    本文旨在解决Langchain LCEL(Langchain Expression Language)链式调用中获取详细日志输出的挑战。传统set_verbose方法在LCEL中可能不按预期工作,因此推荐使用ConsoleCallbackHandler通过invoke方法的config参数来追踪中间…

    2025年12月14日
    000
  • 使用 Pandas 合并多 Excel 文件中的指定工作表数据

    本教程旨在指导用户如何使用 Python 的 Pandas 库高效地合并来自多个 Excel 文件中指定工作表的数据。文章将详细阐述如何遍历文件目录、识别 Excel 文件、加载工作簿、筛选特定工作表并将其数据解析为 Pandas DataFrame,最终存储在一个字典中,同时会重点解决常见的 At…

    2025年12月14日
    000
  • Pandas 教程:高效合并多 Excel 文件多工作表数据并解决常见错误

    本教程详细介绍了如何使用 Python 的 Pandas 库高效地合并指定目录下的多个 Excel 文件中的特定工作表数据。文章通过迭代文件和工作表,将符合条件的数据导入到 Pandas DataFrame 字典中,并重点解析了 AttributeError: ‘str’ o…

    2025年12月14日
    000
  • Langchain LCEL 链式调用中的详细日志与调试方法

    本教程旨在解决 Langchain Expression Language (LCEL) 链中传统 set_verbose 方法无法提供详细日志输出的问题。我们将重点介绍如何通过在 invoke 方法中配置 ConsoleCallbackHandler 来获取中间步骤的日志,并探讨了将回调附加到特定…

    2025年12月14日
    000
  • 精细控制isort导入格式:在VSCode中实现按行长自动换行

    本教程旨在解决isort在VSCode中即使未达到行长限制也强制将导入语句格式化为多行的问题。通过在pyproject.toml中配置自定义的isort配置文件,特别是设置multi_line_output = 3和force_grid_wrap = 0,并调整VSCode的settings.jso…

    2025年12月14日
    000
  • 比较两个DataFrame并根据数据存在性设置新列值

    本文旨在探讨如何在Python中使用Pandas库比较两个DataFrame,并根据一个DataFrame中的行是否存在于另一个DataFrame中,为源DataFrame添加一个新列并赋予相应的值。文章将介绍两种核心方法:一种是基于元素及列的匹配(使用isin()),另一种是实现严格行级匹配(使用…

    2025年12月14日
    000
  • 利用命名空间和值插值实现灵活的配置组合

    本文将深入探讨如何在复杂的配置管理场景中,通过命名空间导入和值插值技术,从多个基础配置文件中选择性地提取并组合特定的配置项。这种方法能够有效解决直接在默认配置中按键合并的局限性,提供了一种灵活且强大的配置组合策略,尤其适用于需要精细控制配置来源的场景。 灵活配置组合的挑战 在软件开发中,尤其是在机器…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信