Pandas:高效整合多工作表Excel数据教程

Pandas:高效整合多工作表Excel数据教程

本教程详细介绍了如何使用Python的Pandas库高效地处理和整合来自多个Excel文件中的特定工作表数据。我们将学习如何遍历目录、识别Excel文件、加载文件、提取指定工作表的数据并将其存储到一个字典中,同时解决常见的AttributeError: ‘str’ object has no attribute ‘sheet_names’错误,并探讨如何进一步实现跨文件同名工作表的合并。

1. 引言与背景

在数据分析和处理的日常工作中,我们经常会遇到需要从多个excel文件中提取特定数据的情况。这些excel文件可能包含多个工作表,而我们只对其中某些特定名称的工作表感兴趣。本教程旨在提供一个清晰、专业的指南,利用python的pandas库来自动化这一过程,将所需数据整合到一个方便操作的字典结构中。

2. 核心工具介绍

本教程主要依赖于以下两个Python库:

os 模块:用于操作系统相关的交互,例如遍历文件目录和构建文件路径。pandas 库:强大的数据处理库,尤其适用于表格数据。我们将使用其ExcelFile对象来读取Excel文件及其包含的工作表,并使用parse()方法将工作表数据加载为DataFrame。

3. 解决 AttributeError: ‘str’ object has no attribute ‘sheet_names’

在处理Excel文件时,一个常见的错误是尝试在文件路径字符串上调用sheet_names属性。例如,path.sheet_names()会导致AttributeError。这是因为sheet_names是pandas.ExcelFile对象的方法,而不是一个普通的字符串。

错误原因分析:当你通过os.path.join(root, fname)获取到的是一个字符串,代表Excel文件的完整路径。要访问工作表名称,你需要先使用pd.ExcelFile()将这个路径字符串封装成一个ExcelFile对象。

正确做法:

import pandas as pd# file_path 是一个字符串,例如 'data/my_excel.xlsx'xls_file = pd.ExcelFile(file_path) # 创建一个ExcelFile对象for sheet_name in xls_file.sheet_names: # 现在可以正确访问sheet_names属性    print(sheet_name)

4. 整合多个Excel文件中的特定工作表数据

以下是实现这一目标的代码示例,它将遍历指定目录下的所有Excel文件,提取名为“Portfolios”或“SP Search Term Req”的工作表数据,并将每个工作表的数据存储为一个Pandas DataFrame,最终将这些DataFrame收集到一个字典中。

import osimport pandas as pd# 1. 定义Excel文件所在的根目录# 请将 'your/excel/files/path' 替换为实际的目录路径excel_root_path = 'your/excel/files/path'# 2. 初始化一个字典,用于存储提取出的DataFrame# 字典的键将是工作表名称,值将是对应工作表的DataFramedf_dict_flex = {}# 3. 遍历指定目录及其子目录下的所有文件for root, _, files in os.walk(excel_root_path):    for fname in files:        # 4. 构造文件的完整路径        file_path = os.path.join(root, fname)        # 5. 确保只处理Excel文件(.xlsx 或 .xls 扩展名)        if file_path.endswith(('.xlsx', '.xls')):            try:                # 6. 使用pd.ExcelFile加载Excel文件,获得ExcelFile对象                xls_file = pd.ExcelFile(file_path)                print(f"正在处理文件: {file_path}")                # 7. 遍历当前Excel文件中的所有工作表                for sheet_name in xls_file.sheet_names:                    print(f"  发现工作表: {sheet_name}")                    # 8. 检查工作表名称是否符合我们的条件                    # 这里我们筛选 'Portfolios' 和 'SP Search Term Req' 两个工作表                    if sheet_name == 'Portfolios' or sheet_name == 'SP Search Term Req':                        # 9. 解析指定工作表的数据为DataFrame                        df = xls_file.parse(sheet_name)                        # 10. 将DataFrame存储到字典中                        # 注意:如果多个文件包含同名工作表,后处理的文件会覆盖前一个文件的数据                        # 如果需要合并同名工作表的数据,请参考下一节的“进一步合并同名工作表”                        df_dict_flex[sheet_name] = df                        print(f"    已将工作表 '{sheet_name}' 的数据加载到字典中。")            except Exception as e:                print(f"处理文件 '{file_path}' 时发生错误: {e}")                continue # 继续处理下一个文件# 11. 打印最终的字典内容(可选,用于验证)# print("n最终整合的DataFrame字典:")# for sheet_name, df in df_dict_flex.items():#     print(f"  工作表 '{sheet_name}' 包含 {len(df)} 行数据。")#     print(df.head()) # 打印前几行数据进行预览

5. 注意事项与最佳实践

路径设置:务必将excel_root_path变量替换为你的Excel文件实际所在的目录路径。文件类型过滤:代码中通过file_path.endswith((‘.xlsx’, ‘.xls’))确保只处理Excel文件,避免尝试用Pandas打开非Excel文件导致错误。错误处理:使用try-except块捕获文件加载或解析过程中可能出现的错误,增强代码的健壮性。df_dict_flex 的行为:当前代码逻辑是,如果多个Excel文件包含名称相同的工作表(例如,多个文件都有“Portfolios”工作表),那么df_dict_flex[sheet_name] = df会覆盖之前存储的数据,最终字典中只会保留最后一个被处理的同名工作表的数据。内存管理:如果处理大量大型Excel文件,内存消耗可能会很高。考虑逐个处理文件并及时释放不再需要的DataFrame,或者使用chunksize参数分块读取。

6. 进一步合并同名工作表数据

如果你的目标是,对于所有Excel文件中名称相同的工作表,将其数据合并(例如,纵向拼接)成一个单一的DataFrame,那么上述代码需要进行修改。

以下是实现这一目标的扩展代码示例:

import osimport pandas as pdexcel_root_path = 'your/excel/files/path' # 替换为你的路径merged_df_by_sheet = {} # 存储最终合并的DataFrame,键为工作表名for root, _, files in os.walk(excel_root_path):    for fname in files:        file_path = os.path.join(root, fname)        if file_path.endswith(('.xlsx', '.xls')):            try:                xls_file = pd.ExcelFile(file_path)                print(f"正在处理文件: {file_path}")                for sheet_name in xls_file.sheet_names:                    if sheet_name == 'Portfolios' or sheet_name == 'SP Search Term Req':                        df = xls_file.parse(sheet_name)                        # 如果该工作表名已存在于字典中,则进行纵向拼接                        if sheet_name in merged_df_by_sheet:                            merged_df_by_sheet[sheet_name] = pd.concat(                                [merged_df_by_sheet[sheet_name], df],                                 ignore_index=True # 重新生成索引                            )                            print(f"    已将工作表 '{sheet_name}' 的数据与现有数据合并。")                        else:                            # 否则,首次添加该工作表的数据                            merged_df_by_sheet[sheet_name] = df                            print(f"    已将工作表 '{sheet_name}' 的数据添加到字典。")            except Exception as e:                print(f"处理文件 '{file_path}' 时发生错误: {e}")                continue# 打印最终合并的DataFrame(可选)# for sheet_name, df in merged_df_by_sheet.items():#     print(f"n合并后的工作表 '{sheet_name}' 包含 {len(df)} 行数据。")#     print(df.head())

通过这种方式,merged_df_by_sheet字典将为每个符合条件的工作表名称存储一个包含所有相关Excel文件数据的合并DataFrame。

7. 总结

本教程详细讲解了如何利用Python和Pandas库来批量处理多个Excel文件,并从中提取特定工作表的数据。我们不仅解决了常见的AttributeError,还提供了两种数据存储策略:一种是将每个符合条件的工作表数据独立存储,另一种是将所有文件中同名工作表的数据进行纵向合并。掌握这些技术将大大提高你在数据整合方面的效率和灵活性。请根据你的具体需求选择合适的代码实现。

以上就是Pandas:高效整合多工作表Excel数据教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1374426.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 14:08:51
下一篇 2025年12月14日 14:09:10

相关推荐

  • RichHandler与Rich Progress集成:解决显示冲突的教程

    在使用rich库的`richhandler`进行日志输出并同时使用`progress`组件时,可能会遇到显示错乱或溢出问题。这通常是由于为`richhandler`和`progress`分别创建了独立的`console`实例导致的。解决方案是确保日志处理器和进度条组件共享同一个`console`实例…

    2025年12月14日
    000
  • python模块的搜索路径和顺序

    Python导入模块时按顺序搜索路径:先当前脚本目录,再PYTHONPATH环境变量指定的目录,最后是安装默认路径如标准库和site-packages。可通过sys.path查看当前搜索路径列表,其顺序决定模块查找优先级。使用sys.path.insert(0, ‘path’…

    2025年12月14日
    000
  • Python3官网官方网址是什么样的_Python3官方网址样式与功能介绍

    Python3官网官方网址是https://www.python.org/,采用极简风格设计,顶部导航栏包含Downloads、Documentation、About、Community等核心栏目,首页突出显示最新稳定版本及下载按钮,底部提供PEP索引、第三方模块仓库、开发进度报告和多语言社区资源链…

    2025年12月14日
    000
  • Python多个版本环境变量怎么配置_多版本Python环境变量设置与管理方法

    合理配置环境变量可在Windows中管理多个Python版本:1. 为不同版本设置独立安装路径并手动添加至Path;2. 路径顺序决定默认版本优先级;3. 推荐使用py -X.Y命令通过Python启动器切换版本;4. 为项目创建虚拟环境以隔离依赖,避免冲突。手动管理PATH、结合py启动器与虚拟环…

    2025年12月14日
    000
  • Python有哪些命令行参数解析模块?

    推荐使用argparse解析命令行参数,它功能完整且用户友好,支持位置与可选参数、子命令、类型检查及自动生成帮助;getopt适用于简单场景或旧代码兼容;optparse已弃用;第三方库click采用装饰器风格,适合复杂CLI应用;fire由Google开发,可快速将函数或类转为命令行接口,适合原型…

    2025年12月14日
    000
  • Python入门如何操作文件读写_Python入门文件处理的标准操作

    掌握Python文件读写需使用open()函数并合理选择模式,推荐with语句自动管理文件生命周期,逐行读取大文件以节省内存,写入时注意模式与编码,统一使用UTF-8处理中文字符。 如果您需要在Python中处理文件,例如读取配置、保存数据或生成报告,掌握文件的读写操作是必不可少的基础技能。以下是P…

    2025年12月14日
    000
  • python多进程与多线程的简单区分

    多进程适合CPU密集型任务,利用多核并行计算,如数值处理;多线程适合I/O密集型任务,轻量高效,如网络请求。 Python中多进程和多线程都是实现并发的方式,但它们的使用场景和底层机制有明显区别。理解这些差异有助于在实际开发中做出合适选择。 多进程(multiprocessing) 每个进程拥有独立…

    2025年12月14日
    000
  • python中geth如何使用?

    答案:Python通过web3.py库连接启用RPC的Geth节点实现交互。首先启动Geth并开启HTTP-RPC服务,配置允许的API模块;接着安装web3.py库,使用Web3.HTTPProvider连接本地8545端口;成功后可获取账户、查询余额、发送交易、调用合约等;注意安全设置与网络选择…

    2025年12月14日
    000
  • Python官网Debug技巧的全面掌握_Python官网调试工具使用教程

    首先使用pdb模块设置断点进行本地调试,再通过IDE集成工具实现图形化调试,结合logging记录执行信息,并利用debugpy实现远程调试。 如果您在使用Python官网提供的工具进行代码调试时遇到问题,可能是因为未正确配置调试环境或未掌握核心调试技巧。以下是帮助您全面掌握Python官方调试工具…

    2025年12月14日
    000
  • Python异步中loop抛出异常的解决

    事件循环异常主因是生命周期管理不当和未捕获错误。1. 避免在子线程直接调用get_event_loop(),应使用asyncio.run()自动管理;2. 协程内需用try/except处理异常,gather设return_exceptions=True防中断;3. 禁止重复运行或过早关闭循环,确保…

    2025年12月14日
    000
  • Python入门如何连接数据库_Python入门数据库操作的基本流程

    首先安装对应数据库的驱动模块,然后使用正确参数建立连接并获取游标,通过游标执行SQL语句实现增删改查,操作完成后提交事务并关闭游标与连接以释放资源。 如果您希望在Python程序中对数据库进行增删改查操作,但不知道如何建立连接并执行基本指令,这通常是因为尚未配置好数据库驱动或连接参数。以下是实现Py…

    2025年12月14日
    000
  • python进程池的使用注意

    答案:使用Python进程池需在if name == ‘__main__’:中创建,合理设置进程数,及时关闭并回收资源,避免传递不可序列化的对象。 使用Python进程池时,关键在于合理管理资源和避免常见陷阱。进程池适合处理CPU密集型任务,但若使用不当,可能导致性能下降甚至…

    2025年12月14日
    000
  • python在函数中传递实参

    Python函数传参方式包括位置实参、关键字实参、默认参数值及args和kwargs。位置实参按顺序传递,关键字实参通过“形参名=实参”指定,提高可读性;默认参数在定义时赋初值,简化调用;args收集多余位置参数为元组,kwargs收集关键字参数为字典,使函数支持可变数量输入,提升灵活性与通用性。 …

    2025年12月14日
    000
  • Python中优雅处理函数调用中的冗余关键字参数:以模拟场景为例

    在python中,当函数调用方使用关键字参数,而函数定义方(尤其是模拟对象)不需要这些参数时,会遇到函数签名不匹配的问题。本文将介绍如何利用python的`**kwargs`语法,以一种简洁且符合pythonic的方式,捕获并忽略这些冗余的关键字参数,从而避免linter警告并保持代码的灵活性,尤其…

    2025年12月14日
    000
  • 使用OR-Tools CP-SAT加速大规模指派问题求解

    本文旨在解决使用`ortools.linear_solver`处理大规模指派问题时遇到的性能瓶颈,特别是当问题规模(n)超过40-50时。针对包含复杂定制约束(如特定id分配、id分组及id和限制)以及最小化最高与最低成本差值的目标函数,我们推荐并详细演示如何通过迁移至or-tools的cp-sat…

    2025年12月14日
    000
  • Python中高效合并嵌套字典的策略

    本文将深入探讨在python中高效合并两个或多个可能包含嵌套结构的字典的方法。针对键不完全重叠且需保留所有数据的场景,文章将详细介绍如何利用`setdefault()`和`update()`组合实现深度合并,确保数据完整性,并兼顾大型字典的性能需求,提供清晰的代码示例和原理分析。 理解字典合并的挑战…

    2025年12月14日
    000
  • 解决Windows 7上Python rtmidi库安装错误

    本文旨在帮助解决在Windows 7系统上安装Python rtmidi库时遇到的”Microsoft Visual C++ 14.0 or greater is required”错误。通过升级Python版本到3.11并使用pip安装rtmidi,可以有效解决此问题,从而…

    2025年12月14日
    000
  • 在 Jupyter Notebook 中直接获取输入数据

    本文介绍了如何在 Jupyter Notebook 中直接获取输入数据的方法,以便创建交互式教学环境。通过利用 IPython 提供的 In 和 Out 对象,我们可以访问已执行代码单元格的内容和输出结果,从而实现从其他单元格获取输入数据的需求。 Jupyter Notebook 提供了一种交互式的…

    2025年12月14日
    000
  • 使用 pylintrc 文件为 “unused-argument” 指定参数列表

    本文介绍了如何使用 pylintrc 配置文件,通过 `ignored-argument-names` 选项,为 pylint 的 “unused-argument” 检查器指定需要忽略的参数名称列表,从而避免不必要的警告信息,提高代码检查的效率和准确性。 在 Python …

    2025年12月14日
    000
  • 使用 Snowpark 循环处理数据时避免覆盖先前结果

    本文旨在解决在使用 Snowpark 循环处理数据时,如何避免后续循环元素覆盖先前结果的问题。通过示例代码,展示了如何使用列表聚合的方式,将每次循环的结果添加到结果列表中,最终得到所有结果的并集,避免了结果被覆盖的情况。同时,也提供了使用 `append` 方法在 Pandas DataFrame …

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信