Deprecated: imwpcache\f884414bce24ee67f\f73723ec7b1919fa5::__construct(): Implicitly marking parameter $YECBGYFECGEAFWHA as nullable is deprecated, the explicit nullable type must be used instead in /www/wwwroot/www.chuangxiangniao.com/wp-content/plugins/imwpcache-dist/build/f884414bce24ee67ff73723ec7b1919fa5.php on line 2

Deprecated: imwpcache\f884414bce24ee67f\f73723ec7b1919fa5::__construct(): Implicitly marking parameter $BBWFDDBHHYHDXXAB as nullable is deprecated, the explicit nullable type must be used instead in /www/wwwroot/www.chuangxiangniao.com/wp-content/plugins/imwpcache-dist/build/f884414bce24ee67ff73723ec7b1919fa5.php on line 2
Python Pandas:高效合并多工作簿多工作表 Excel 数据_创想鸟

Python Pandas:高效合并多工作簿多工作表 Excel 数据

Python Pandas:高效合并多工作簿多工作表 Excel 数据

本教程详细指导如何使用 Python Pandas 库高效合并来自多个 Excel 文件中指定工作表的数据。文章将解释如何遍历文件目录、正确加载 Excel 文件、识别并解析特定工作表,并将来自不同文件的同名工作表数据智能地整合到一个 Pandas DataFrame 字典中,同时提供完整的示例代码和注意事项,帮助用户避免常见的 AttributeError 并优化数据处理流程。

引言

在日常数据分析和报告工作中,我们经常需要处理大量分散在多个 excel 文件中的数据。这些文件可能包含多个工作表,并且我们需要从中提取特定工作表的数据进行整合。手动操作不仅效率低下,还容易出错。python 的 pandas 库提供了强大的数据处理能力,能够自动化这一复杂过程。本文将深入探讨如何利用 pandas 优雅地解决多 excel 文件、多工作表的数据合并问题。

环境准备

在开始之前,请确保您的 Python 环境中已安装 Pandas 和用于读取 Excel 文件的引擎库(如 openpyxl 或 xlrd)。如果尚未安装,可以通过以下命令进行安装:

pip install pandas openpyxl xlrd

理解常见错误:AttributeError: ‘str’ object has no attribute ‘sheet_names’

在处理 Excel 文件时,一个常见的错误是 AttributeError: ‘str’ object has no attribute ‘sheet_names’。这个错误通常发生在尝试对一个文件路径字符串(str 类型)直接调用 sheet_names 方法时。sheet_names 是 pandas.ExcelFile 对象的属性,而不是文件路径字符串的属性。

错误原因示例:

path = "your_excel_file.xlsx"# 错误:path 是字符串,没有 sheet_names 属性for sheet_name in path.sheet_names:     pass

正确做法:

立即学习“Python免费学习笔记(深入)”;

在使用 sheet_names 之前,必须先将文件路径传递给 pd.ExcelFile() 构造函数,创建一个 ExcelFile 对象。

file_path = "your_excel_file.xlsx"xls = pd.ExcelFile(file_path) # 创建 ExcelFile 对象for sheet_name in xls.sheet_names: # 现在可以访问 sheet_names 属性    pass

理解这一点是避免此类错误的关键,也是本文核心解决方案的基础。

核心解决方案:使用 Pandas 合并多文件多工作表数据

我们的目标是遍历指定目录下的所有 Excel 文件,识别并合并其中符合特定条件(例如,名称匹配)的工作表数据。最终,我们将把来自不同文件的同名工作表数据合并成一个独立的 DataFrame,并存储在一个字典中。

解决方案概述

指定根目录:确定存放 Excel 文件的最上层目录。遍历文件系统:使用 os.walk 遍历根目录及其所有子目录,查找 Excel 文件。加载 Excel 文件:对每个找到的 Excel 文件,使用 pd.ExcelFile() 加载。获取工作表名称:通过 xls.sheet_names 获取当前 Excel 文件中所有工作表的名称。条件筛选与解析:根据预设条件(如工作表名称)筛选工作表,并使用 xls.parse() 将其解析为 Pandas DataFrame。数据整合:将来自不同文件的同名工作表数据收集起来,并使用 pd.concat() 进行纵向合并。存储结果:将合并后的 DataFrame 存储在一个字典中,以工作表名称作为键。

示例代码

以下是一个完整的 Python 函数,实现了上述数据合并逻辑:

import osimport pandas as pddef merge_excel_sheets(base_path, target_sheet_names=None):    """    合并指定路径下多个Excel文件中符合条件的工作表。    Args:        base_path (str): 包含Excel文件的根目录路径。        target_sheet_names (list, optional): 一个列表,包含需要合并的工作表名称。                                              如果为None,则合并所有非排除工作表。    Returns:        dict: 键为工作表名称,值为合并后的DataFrame的字典。              每个DataFrame包含来自所有Excel文件中同名工作表的数据。    """    # 临时存储每个工作表名称下的所有DataFrame列表    all_sheet_data_lists = {}     print(f"开始遍历目录: {base_path}")    # 遍历指定目录及其子目录    for root, _, files in os.walk(base_path):        for fname in files:            file_path = os.path.join(root, fname)            # 确保只处理Excel文件(.xlsx 或 .xls 扩展名)            if fname.endswith(('.xlsx', '.xls')):                try:                    # 使用 pd.ExcelFile 加载 Excel 文件,而不是直接操作字符串路径                    xls = pd.ExcelFile(file_path)                    print(f"n正在处理文件: {fname}")                    # 遍历当前Excel文件中的所有工作表                    for sheet_name in xls.sheet_names:                        # 根据 target_sheet_names 筛选工作表                        if target_sheet_names and sheet_name not in target_sheet_names:                            continue # 跳过不符合条件的工作表                        print(f"  - 发现并处理工作表: '{sheet_name}'")                        try:                            # 解析指定工作表到 DataFrame                            df = xls.parse(sheet_name)                            # 将当前 DataFrame 添加到对应工作表名称的列表中                            if sheet_name not in all_sheet_data_lists:                                all_sheet_data_lists[sheet_name] = []                            all_sheet_data_lists[sheet_name].append(df)                        except Exception as e:                            print(f"    - 警告: 无法解析工作表 '{sheet_name}' 在文件 '{fname}' 中: {e}")                            continue                except Exception as e:                    print(f"  - 错误: 无法加载Excel文件 '{fname}': {e}")                    continue            else:                print(f"  - 跳过非Excel文件: {fname}")    # 将每个工作表名称下的所有DataFrame列表合并成一个DataFrame    final_merged_dict = {}    for sheet_name, df_list in all_sheet_data_lists.items():        if df_list:            # 使用 pd.concat 纵向合并所有 DataFrame            final_merged_dict[sheet_name] = pd.concat(df_list, ignore_index=True)            print(f"n成功合并工作表 '{sheet_name}' 的数据。总行数: {len(final_merged_dict[sheet_name])}")        else:            print(f"警告: 工作表 '{sheet_name}' 未找到任何数据进行合并。")    return final_merged_dict# --- 使用示例 ---# 请将 'your/excel/files/path' 替换为你的Excel文件所在的实际路径# 确保该路径下包含多个Excel文件,且这些文件内有同名的工作表。excel_directory_path = 'your/excel/files/path' # 示例:合并名为 'Portfolios' 和 'SP Search Term Req' 的工作表# 如果希望合并所有工作表,可以将 target_sheet_names 设置为 Nonetarget_sheets_to_merge = ['Portfolios', 'SP Search Term Req'] # 调用函数执行合并操作merged_dataframes = merge_excel_sheets(excel_directory_path, target_sheet_names=target_sheets_to_merge)# 打印合并结果的概览if merged_dataframes:    print("n--- 合并结果概览 ---")    for sheet_name, df in merged_dataframes.items():        print(f"n工作表 '{sheet_name}' 合并后的数据 (前5行):")        print(df.head())        print(f"总行数: {len(df)}")else:    print("n未找到符合条件的工作表数据进行合并。")# 如果需要将所有合并后的DataFrame进一步整合成一个大的DataFrame# all_combined_dfs = list(merged_dataframes.values())# if all_combined_dfs:#     final_single_df = pd.concat(all_combined_dfs, ignore_index=True)#     print("n所有符合条件的工作表合并成一个大DataFrame的概览 (前5行):")#     print(final_single_df.head())#     print(f"总行数: {len(final_single_df)}")

代码详解

import os 和 import pandas as pd: 导入所需的 os 模块用于文件系统操作,以及 pandas 模块用于数据处理。merge_excel_sheets(base_path, target_sheet_names=None) 函数:base_path: Excel 文件所在的根目录路径。target_sheet_names: 一个可选列表,包含您希望合并的工作表名称。如果为 None,则会尝试合并所有发现的工作表(请注意,这可能会导致大量数据)。all_sheet_data_lists = {}: 这是一个字典,用于临时存储。它的键是工作表名称,值是一个列表,该列表包含了来自不同 Excel 文件的同名工作表的 DataFrame。os.walk(base_path): 这是一个生成器,它会递归地遍历 base_path 下的所有目录和文件。每次迭代返回一个三元组 (root, dirs, files),其中 root 是当前目录的路径,dirs 是 root 下的子目录列表,files 是 root 下的文件列表。os.path.join(root, fname): 用于构建文件的完整路径,确保跨平台兼容性。fname.endswith((‘.xlsx’, ‘.xls’)): 检查文件扩展名,确保只处理 Excel 文件。pd.ExcelFile(file_path): 关键步骤。它将 Excel 文件加载为一个 ExcelFile 对象。只有通过这个对象,我们才能访问文件的元数据(如 sheet_names)和内容。xls.sheet_names: 返回当前 ExcelFile 对象中所有工作表的名称列表。条件判断 if target_sheet_names and sheet_name not in target_sheet_names:: 根据 target_sheet_names 列表筛选需要处理的工作表。xls.parse(sheet_name): 从 ExcelFile 对象中解析指定名称的工作表,并将其转换为一个 Pandas DataFrame。数据收集 all_sheet_data_lists[sheet_name].append(df): 将解析出的 DataFrame 添加到 all_sheet_data_lists 字典中对应工作表名称的列表中。pd.concat(df_list, ignore_index=True): 在遍历完所有文件并收集到所有同名工作表的 DataFrame 列表后,使用 pd.concat 将这些 DataFrame 纵向堆叠(即行追加),ignore_index=True 会重置合并后的 DataFrame 的索引。错误处理 try…except: 捕获在加载 Excel 文件或解析工作表时可能发生的错误,提高代码的健壮性。

注意事项

文件路径准确性:请务必将示例代码中的 ‘your/excel/files/path’ 替换为您的 Excel 文件所在的实际路径。路径错误是导致程序无法运行的常见原因。内存消耗:如果您的 Excel 文件数量庞大或单个工作表数据量巨大,pd.concat 操作可能会消耗大量内存。在这种情况下,可以考虑:分批处理文件。在解析时指定 dtype 参数以优化 DataFrame 的数据类型,减少内存占用。如果数据量过大,考虑使用 Dask 等大数据处理库。数据结构一致性:当合并多个 Excel 文件中的同名工作表时,最好确保这些工作表的列结构(列名、列顺序)大致相同。如果列名不一致,pd.concat 默认会保留所有列,并在缺失值处填充 NaN。错误处理与日志记录:示例代码中包含了基本的 try-except 块来处理文件加载和工作表解析错误。在生产环境中,建议加入更详细的日志记录,以便追踪问题。空文件或空工作表:代码会尝试处理所有 Excel 文件。如果存在空文件或空工作表,xls.parse() 可能会返回空的 DataFrame,这在 pd.concat 中通常

以上就是Python Pandas:高效合并多工作簿多工作表 Excel 数据的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1374438.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
Django 后端权限管理与前端视图控制:基于 Group 的最佳实践
上一篇 2025年12月14日 14:09:26
深入理解配置合并:从多个配置文件中选择性提取配置项
下一篇 2025年12月14日 14:09:38

相关推荐

  • 小红书从哪里看私信记录?私信记录如何清理?

    在小红书上与朋友或喜欢的博主互动时,私信是必不可少的沟通方式。不少新手用户常常困惑于如何查找过往的聊天内容。本文将为你详细说明查看私信记录的具体步骤,并分享几种实用的清理方法,帮助你轻松管理私信箱,让对话界面更清爽。 一、如何找到小红书的私信记录? 查看私信的操作非常直观,只需几个简单步骤即可完成。…

    2026年9月21日
    000
  • VSCode代码空格怎么解决_VSCode缩进与格式处理教程

    解决VSCode代码空格和缩进问题,需配置settings.json中的缩进规则并引入外部格式化工具。首先设置”editor.tabSize”、”editor.insertSpaces”和”editor.detectIndentation&…

    2026年9月21日
    100
  • PHP框架中间件有什么用处_PHP框架中间件设计与实现

    PHP框架中间件是处理请求和响应的过滤器,用于实现身份验证、日志记录、CORS等通用逻辑,核心价值在于解耦和提升可维护性。通过定义中间件接口、具体中间件类及管道调度器可实现自定义中间件,如身份验证或CORS处理。在Laravel中可通过Kernel.php配置全局、分组或路由级中间件,执行顺序按注册…

    2026年9月21日
    000
  • win10登录界面不显示用户头像或名称怎么办_恢复登录界面完整显示的操作方法

    登录界面缺少头像或账户名时,先检查账户名一致性,修复头像缓存,重设头像,扫描系统文件,必要时创建新管理员账户验证问题。 如果您在启动Windows 10后,登录界面仅显示密码输入框而缺少用户头像或账户名称,则可能是由于系统设置、缓存异常或账户配置问题导致。以下是恢复登录界面完整显示的详细操作方法。 …

    2026年9月21日
    100
  • 中国联通:前三季度营收2929亿 净利润同比增长5.2%

    10月22日,中国联通发布2025年第三季度业绩报告,披露前三季度公司实现营业收入2929.85亿元,同比增长1.0%;归属于母公司股东的净利润达到87.72亿元,较去年同期增长5.2%。 单季度数据显示,第三季度公司营收为927.83亿元,与上年同期持平;净利润为24.23亿元,同比增长5.4%。…

    2026年9月21日
    000
  • Java多线程API调用中Future.get()返回null的解决方案

    本文旨在解决%ignore_a_1%api调用中`future.get()`方法返回`null`的常见问题。当使用`callable`和`executorservice`并发执行api请求并尝试获取结果时,如果流读取逻辑不当,可能导致获取到的数据为空。文章将详细解释问题根源,并提供使用`string…

    2026年9月21日
    000
  • 交管12123处理非本人车辆违章怎么办_交管12123处理非本人车辆违章攻略

    可通过“交管12123”APP处理非本人名下车辆的交通违法,但需先完成备案。备案方式有两种:一是扫码备案,由车主生成二维码后驾驶人扫描并提交信息;二是短信验证备案,输入车牌号、发动机号后六位,系统向车主手机发送验证码,输入后完成备案。备案成功后,进入APP【更多】→【违法处理】,选择已备案车辆,查看…

    2026年9月21日
    000
  • 如何配置VSCode与Jupyter Notebook进行交互式数据科学编程?

    首先安装Python、VSCode及Python扩展,再通过pip安装jupyter;接着在VSCode中创建或打开.ipynb文件,使用Shift+Enter运行单元格;然后通过Ctrl+Shift+P选择Python解释器并确保安装ipykernel以匹配内核;最后启用变量查看器、代码块分隔符和…

    2026年9月21日
    000
  • windows怎么查看电脑型号_Windows查看电脑硬件型号方法

    通过系统信息工具查看:按Win+R输入msinfo32,查找“系统型号”获取电脑型号;2. 使用命令提示符执行wmic csproduct get name查询型号;3. 在Windows 11设置中进入“系统-关于”,查看“设备规格”下的“设备型号”;4. 利用PowerShell运行Get-Wm…

    2026年9月21日
    100
  • 哔哩哔哩怎么设置点赞和投币记录为私密_哔哩哔哩点赞投币隐私设置

    1、进入哔哩哔哩App个人主页,点击头像进入个人空间,通过右上角菜单进入设置;2、开启“隐藏我的点赞”功能,防止他人查看点赞记录;3、在隐私权限设置中关闭“展示投币动态”,限制投币行为的公开显示;4、手动检查并删除或隐藏历史动态中的互动记录,确保过往点赞与投币不被他人可见。 如果您希望在使用哔哩哔哩…

    2026年9月21日
    100
  • 蝴蝶号内容创作不露脸的五大绝技与执行方法 | 快速提升曝光率的实用操作流程

    不露脸也能玩转蝴蝶号内容创作,关键在于将焦点从个人形象转移到内容本身与观众体验上,通过声音叙事、动态文字、手部特写、数据可视化和场景搭建五大核心策略构建吸引力,结合高质量音画配合、精准的受众定位、稳定更新与算法互动,提升曝光率;同时规避素材版权、声音质量与画面单调等技术挑战,善用免费或付费正版素材、…

    2026年9月21日
    100
  • 如何为VSCode设置最小化到系统托盘?

    VSCode不支持内置最小化到系统托盘功能,可通过第三方工具实现:Windows推荐使用RBTray或AutoHotkey脚本,Linux可借助AppIndicator扩展,macOS则依赖Dock最小化及辅助工具视觉隐藏。 VSCode 本身不提供内置的“最小化到系统托盘”功能,但可以通过一些方法…

    2026年9月21日
    000
  • 怎样在iPhone情侣模式中设置情侣专属表情?个性化聊天的技巧

    怎样在iPhone情侣模式中设置情侣专属表情?个性化聊天的技巧怎样在iPhone情侣模式中设置情侣专属表情?个性化聊天的技巧怎样在iPhone情侣模式中设置情侣专属表情?个性化聊天的技巧怎样在iPhone情侣模式中设置情侣专属表情?个性化聊天的技巧

    通过Memoji、第三方贴纸应用和iOS 16+抠图功能,可为情侣打造专属表情包;结合自定义聊天背景、语音消息、共享相册等方式,既能提升聊天趣味性,又能保持沟通效率,增强情感连接。 在iPhone上设置情侣专属表情,与其说是开启一个内置的“情侣模式”,不如说是巧妙利用iOS系统和第三方应用提供的各种…

    2026年9月21日 • 用户投稿
    100
  • MySQL缓存机制对性能提升的作用_MySQL缓存配置及调优方案

    MySQL缓存机制对性能提升的作用_MySQL缓存配置及调优方案MySQL缓存机制对性能提升的作用_MySQL缓存配置及调优方案MySQL缓存机制对性能提升的作用_MySQL缓存配置及调优方案MySQL缓存机制对性能提升的作用_MySQL缓存配置及调优方案

    mysql的缓存机制主要包括innodb缓冲池、查询缓存和操作系统文件系统缓存等,其中innodb缓冲池是性能优化的核心。1. innodb缓冲池缓存表数据和索引页,减少磁盘i/o,提升读写效率;2. 查询缓存因失效频繁及锁竞争问题,在高并发场景下易成瓶颈,已在mysql 8.0中移除;3. 操作系…

    2026年9月21日 • 用户投稿
    100
  • PHP 数组值比较与嵌套数组过滤教程

    本教程详细讲解如何在 PHP 中比较一个简单数组与一个复杂嵌套数组,并根据特定条件(如文件名匹配)过滤嵌套数组中的所有相关子数组。我们将通过识别非匹配项的索引,然后从所有子数组中移除这些项并重新索引,实现精确的数据筛选。 问题背景 在 php 开发中,我们经常会遇到需要处理结构复杂的数组数据。例如,…

    2026年9月21日
    100
  • 如何为iPhone12Pro刷机固件下载?一步步教你操作

    首先使用爱思助手一键下载适用于iPhone 12 Pro的iOS 18固件,若失败则手动导入IPSW文件,最后可通过恢复模式配合电脑工具强制刷机完成系统重装。 如果您尝试为您的设备重新安装操作系统,但无法获取正确的系统文件,则可能是由于固件下载路径不正确或工具不支持。以下是解决此问题的步骤: 本文运…

    2026年9月21日
    000
  • 如何使用XGBoost训练AI大模型?优化机器学习模型的步骤

    XGBoost并非用于训练GPT类大模型,而是擅长处理结构化数据的高效梯度提升算法,其优势在于速度快、准确性高、支持并行计算、内置正则化与缺失值处理,适用于表格数据建模;通过分阶段超参数调优(如学习率、树深度、采样策略)、结合贝叶斯优化与交叉验证,并配合特征工程、数据预处理和集成学习等关键步骤,可显…

    2026年9月21日
    000
  • 美图秀秀导出视频卡住 美图视频保存失败修复方案

    导出视频卡住或保存失败,通常和设备性能、软件状态或操作方式有关。直接强制退出再尝试是很多人会做的,但更有效的是先排查具体原因。 检查设备资源与软件状态 导出视频是个高负载任务,容易因资源不足中断。 关闭后台应用:尤其是浏览器、游戏或其他大型程序,释放内存和处理器资源。 确认存储空间:确保手机或电脑有…

    2026年9月21日
    000
  • 苹果为何把Apple ID改名为Apple Account

    苹果公司宣布将“Apple ID”更名为“Apple Account”,这一变化迅速引发热议。虽然只是名称上的调整,但其背后蕴含着深远的战略考量。 体现服务边界的扩展 随着苹果生态系统日益庞大,原有的“ID”一词已难以全面涵盖用户通过该账户所使用的广泛功能。如今,这一个账户不仅用于设备激活和App …

    2026年9月21日
    100
  • VSCode怎么运行全部代码_VSCode批量执行代码教程

    在VSCode里“运行全部代码”或“批量执行代码”,其实很少是一个单一的、所有语言通用的按钮。它更多的是指根据你项目的具体需求,通过配置任务(Tasks)、使用集成终端(Integrated Terminal)配合脚本,或者利用特定语言的运行/调试配置(Launch Configurations)来…

    2026年9月21日
    100

发表回复

登录后才能评论
关注微信