Python Pandas:高效合并多工作簿多工作表 Excel 数据

Python Pandas:高效合并多工作簿多工作表 Excel 数据

本教程详细指导如何使用 Python Pandas 库高效合并来自多个 Excel 文件中指定工作表的数据。文章将解释如何遍历文件目录、正确加载 Excel 文件、识别并解析特定工作表,并将来自不同文件的同名工作表数据智能地整合到一个 Pandas DataFrame 字典中,同时提供完整的示例代码和注意事项,帮助用户避免常见的 AttributeError 并优化数据处理流程。

引言

在日常数据分析和报告工作中,我们经常需要处理大量分散在多个 excel 文件中的数据。这些文件可能包含多个工作表,并且我们需要从中提取特定工作表的数据进行整合。手动操作不仅效率低下,还容易出错。python 的 pandas 库提供了强大的数据处理能力,能够自动化这一复杂过程。本文将深入探讨如何利用 pandas 优雅地解决多 excel 文件、多工作表的数据合并问题。

环境准备

在开始之前,请确保您的 Python 环境中已安装 Pandas 和用于读取 Excel 文件的引擎库(如 openpyxl 或 xlrd)。如果尚未安装,可以通过以下命令进行安装:

pip install pandas openpyxl xlrd

理解常见错误:AttributeError: ‘str’ object has no attribute ‘sheet_names’

在处理 Excel 文件时,一个常见的错误是 AttributeError: ‘str’ object has no attribute ‘sheet_names’。这个错误通常发生在尝试对一个文件路径字符串(str 类型)直接调用 sheet_names 方法时。sheet_names 是 pandas.ExcelFile 对象的属性,而不是文件路径字符串的属性。

错误原因示例:

path = "your_excel_file.xlsx"# 错误:path 是字符串,没有 sheet_names 属性for sheet_name in path.sheet_names:     pass

正确做法:

立即学习“Python免费学习笔记(深入)”;

在使用 sheet_names 之前,必须先将文件路径传递给 pd.ExcelFile() 构造函数,创建一个 ExcelFile 对象。

file_path = "your_excel_file.xlsx"xls = pd.ExcelFile(file_path) # 创建 ExcelFile 对象for sheet_name in xls.sheet_names: # 现在可以访问 sheet_names 属性    pass

理解这一点是避免此类错误的关键,也是本文核心解决方案的基础。

核心解决方案:使用 Pandas 合并多文件多工作表数据

我们的目标是遍历指定目录下的所有 Excel 文件,识别并合并其中符合特定条件(例如,名称匹配)的工作表数据。最终,我们将把来自不同文件的同名工作表数据合并成一个独立的 DataFrame,并存储在一个字典中。

解决方案概述

指定根目录:确定存放 Excel 文件的最上层目录。遍历文件系统:使用 os.walk 遍历根目录及其所有子目录,查找 Excel 文件。加载 Excel 文件:对每个找到的 Excel 文件,使用 pd.ExcelFile() 加载。获取工作表名称:通过 xls.sheet_names 获取当前 Excel 文件中所有工作表的名称。条件筛选与解析:根据预设条件(如工作表名称)筛选工作表,并使用 xls.parse() 将其解析为 Pandas DataFrame。数据整合:将来自不同文件的同名工作表数据收集起来,并使用 pd.concat() 进行纵向合并。存储结果:将合并后的 DataFrame 存储在一个字典中,以工作表名称作为键。

示例代码

以下是一个完整的 Python 函数,实现了上述数据合并逻辑:

import osimport pandas as pddef merge_excel_sheets(base_path, target_sheet_names=None):    """    合并指定路径下多个Excel文件中符合条件的工作表。    Args:        base_path (str): 包含Excel文件的根目录路径。        target_sheet_names (list, optional): 一个列表,包含需要合并的工作表名称。                                              如果为None,则合并所有非排除工作表。    Returns:        dict: 键为工作表名称,值为合并后的DataFrame的字典。              每个DataFrame包含来自所有Excel文件中同名工作表的数据。    """    # 临时存储每个工作表名称下的所有DataFrame列表    all_sheet_data_lists = {}     print(f"开始遍历目录: {base_path}")    # 遍历指定目录及其子目录    for root, _, files in os.walk(base_path):        for fname in files:            file_path = os.path.join(root, fname)            # 确保只处理Excel文件(.xlsx 或 .xls 扩展名)            if fname.endswith(('.xlsx', '.xls')):                try:                    # 使用 pd.ExcelFile 加载 Excel 文件,而不是直接操作字符串路径                    xls = pd.ExcelFile(file_path)                    print(f"n正在处理文件: {fname}")                    # 遍历当前Excel文件中的所有工作表                    for sheet_name in xls.sheet_names:                        # 根据 target_sheet_names 筛选工作表                        if target_sheet_names and sheet_name not in target_sheet_names:                            continue # 跳过不符合条件的工作表                        print(f"  - 发现并处理工作表: '{sheet_name}'")                        try:                            # 解析指定工作表到 DataFrame                            df = xls.parse(sheet_name)                            # 将当前 DataFrame 添加到对应工作表名称的列表中                            if sheet_name not in all_sheet_data_lists:                                all_sheet_data_lists[sheet_name] = []                            all_sheet_data_lists[sheet_name].append(df)                        except Exception as e:                            print(f"    - 警告: 无法解析工作表 '{sheet_name}' 在文件 '{fname}' 中: {e}")                            continue                except Exception as e:                    print(f"  - 错误: 无法加载Excel文件 '{fname}': {e}")                    continue            else:                print(f"  - 跳过非Excel文件: {fname}")    # 将每个工作表名称下的所有DataFrame列表合并成一个DataFrame    final_merged_dict = {}    for sheet_name, df_list in all_sheet_data_lists.items():        if df_list:            # 使用 pd.concat 纵向合并所有 DataFrame            final_merged_dict[sheet_name] = pd.concat(df_list, ignore_index=True)            print(f"n成功合并工作表 '{sheet_name}' 的数据。总行数: {len(final_merged_dict[sheet_name])}")        else:            print(f"警告: 工作表 '{sheet_name}' 未找到任何数据进行合并。")    return final_merged_dict# --- 使用示例 ---# 请将 'your/excel/files/path' 替换为你的Excel文件所在的实际路径# 确保该路径下包含多个Excel文件,且这些文件内有同名的工作表。excel_directory_path = 'your/excel/files/path' # 示例:合并名为 'Portfolios' 和 'SP Search Term Req' 的工作表# 如果希望合并所有工作表,可以将 target_sheet_names 设置为 Nonetarget_sheets_to_merge = ['Portfolios', 'SP Search Term Req'] # 调用函数执行合并操作merged_dataframes = merge_excel_sheets(excel_directory_path, target_sheet_names=target_sheets_to_merge)# 打印合并结果的概览if merged_dataframes:    print("n--- 合并结果概览 ---")    for sheet_name, df in merged_dataframes.items():        print(f"n工作表 '{sheet_name}' 合并后的数据 (前5行):")        print(df.head())        print(f"总行数: {len(df)}")else:    print("n未找到符合条件的工作表数据进行合并。")# 如果需要将所有合并后的DataFrame进一步整合成一个大的DataFrame# all_combined_dfs = list(merged_dataframes.values())# if all_combined_dfs:#     final_single_df = pd.concat(all_combined_dfs, ignore_index=True)#     print("n所有符合条件的工作表合并成一个大DataFrame的概览 (前5行):")#     print(final_single_df.head())#     print(f"总行数: {len(final_single_df)}")

代码详解

import os 和 import pandas as pd: 导入所需的 os 模块用于文件系统操作,以及 pandas 模块用于数据处理。merge_excel_sheets(base_path, target_sheet_names=None) 函数:base_path: Excel 文件所在的根目录路径。target_sheet_names: 一个可选列表,包含您希望合并的工作表名称。如果为 None,则会尝试合并所有发现的工作表(请注意,这可能会导致大量数据)。all_sheet_data_lists = {}: 这是一个字典,用于临时存储。它的键是工作表名称,值是一个列表,该列表包含了来自不同 Excel 文件的同名工作表的 DataFrame。os.walk(base_path): 这是一个生成器,它会递归地遍历 base_path 下的所有目录和文件。每次迭代返回一个三元组 (root, dirs, files),其中 root 是当前目录的路径,dirs 是 root 下的子目录列表,files 是 root 下的文件列表。os.path.join(root, fname): 用于构建文件的完整路径,确保跨平台兼容性。fname.endswith((‘.xlsx’, ‘.xls’)): 检查文件扩展名,确保只处理 Excel 文件。pd.ExcelFile(file_path): 关键步骤。它将 Excel 文件加载为一个 ExcelFile 对象。只有通过这个对象,我们才能访问文件的元数据(如 sheet_names)和内容。xls.sheet_names: 返回当前 ExcelFile 对象中所有工作表的名称列表。条件判断 if target_sheet_names and sheet_name not in target_sheet_names:: 根据 target_sheet_names 列表筛选需要处理的工作表。xls.parse(sheet_name): 从 ExcelFile 对象中解析指定名称的工作表,并将其转换为一个 Pandas DataFrame。数据收集 all_sheet_data_lists[sheet_name].append(df): 将解析出的 DataFrame 添加到 all_sheet_data_lists 字典中对应工作表名称的列表中。pd.concat(df_list, ignore_index=True): 在遍历完所有文件并收集到所有同名工作表的 DataFrame 列表后,使用 pd.concat 将这些 DataFrame 纵向堆叠(即行追加),ignore_index=True 会重置合并后的 DataFrame 的索引。错误处理 try…except: 捕获在加载 Excel 文件或解析工作表时可能发生的错误,提高代码的健壮性。

注意事项

文件路径准确性:请务必将示例代码中的 ‘your/excel/files/path’ 替换为您的 Excel 文件所在的实际路径。路径错误是导致程序无法运行的常见原因。内存消耗:如果您的 Excel 文件数量庞大或单个工作表数据量巨大,pd.concat 操作可能会消耗大量内存。在这种情况下,可以考虑:分批处理文件。在解析时指定 dtype 参数以优化 DataFrame 的数据类型,减少内存占用。如果数据量过大,考虑使用 Dask 等大数据处理库。数据结构一致性:当合并多个 Excel 文件中的同名工作表时,最好确保这些工作表的列结构(列名、列顺序)大致相同。如果列名不一致,pd.concat 默认会保留所有列,并在缺失值处填充 NaN。错误处理与日志记录:示例代码中包含了基本的 try-except 块来处理文件加载和工作表解析错误。在生产环境中,建议加入更详细的日志记录,以便追踪问题。空文件或空工作表:代码会尝试处理所有 Excel 文件。如果存在空文件或空工作表,xls.parse() 可能会返回空的 DataFrame,这在 pd.concat 中通常

以上就是Python Pandas:高效合并多工作簿多工作表 Excel 数据的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1374438.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 14:09:26
下一篇 2025年12月14日 14:09:38

相关推荐

  • Django 后端权限管理与前端视图控制:基于 Group 的最佳实践

    在构建 Django 后端与 Vue 前端应用时,如何高效地将用户权限信息同步至前端以实现视图控制是一个常见挑战。本文将探讨不同的权限数据传输策略,并强烈推荐利用 Django 内置的 Group 系统来管理和暴露用户权限,以实现灵活、可扩展且易于维护的权限控制方案,避免自定义角色字段或混合使用带来…

    2025年12月14日
    000
  • 解决PyTorch深度学习模型验证阶段CUDA内存不足(OOM)错误

    本教程旨在深入探讨PyTorch深度学习模型在验证阶段出现“CUDA out of memory”错误的常见原因及解决方案。重点关注训练阶段正常而验证阶段报错的特殊情况,提供包括GPU内存监控、显存缓存清理、数据加载优化及代码调整等一系列实用策略,帮助开发者有效诊断并解决显存溢出问题,确保模型顺利完…

    2025年12月14日
    000
  • 解决PyTorch深度学习模型验证阶段CUDA内存不足错误

    在PyTorch深度学习模型验证阶段,即使训练过程顺利,也可能遭遇CUDA out of memory错误。本文旨在深入分析此问题,并提供一系列实用的解决方案,包括利用torch.cuda.empty_cache()清理GPU缓存、监控GPU内存占用、以及优化数据加载与模型处理策略,帮助开发者有效管…

    2025年12月14日
    000
  • Python colorspace 库安装指南:规避常见错误与正确实践

    本教程旨在解决 python-colorspace 库安装时遇到的常见问题,特别是 No matching distribution found 错误。由于该库尚未发布至 PyPI,直接使用 pip install 会失败。文章将详细介绍官方推荐的安装方法,包括通过 Git 仓库安装和直接从 Git…

    2025年12月14日
    000
  • Pandas:高效整合多工作表Excel数据教程

    本教程详细介绍了如何使用Python的Pandas库高效地处理和整合来自多个Excel文件中的特定工作表数据。我们将学习如何遍历目录、识别Excel文件、加载文件、提取指定工作表的数据并将其存储到一个字典中,同时解决常见的AttributeError: ‘str’ objec…

    2025年12月14日
    000
  • 使用Pandas高效合并多Excel文件中的指定工作表数据

    本教程详细介绍了如何利用Python的Pandas库合并多个Excel文件中的特定工作表数据。我们将学习如何遍历文件目录、识别Excel文件、加载多工作簿文件、根据工作表名称筛选数据,并将选定的工作表内容存储到Python字典中,最终形成结构化的DataFrame集合,同时会指出并解决常见的Attr…

    2025年12月14日
    000
  • Python中将特定格式字符串列表转换为字典的简洁方法

    本教程将介绍如何将形如 [‘KEY = (VALUE)’, …] 的字符串列表高效转换为字典。通过利用 Python 的 dict 构造器与生成器表达式,我们可以实现一行代码的简洁转换,避免多行处理,提升代码可读性和效率。 在python编程中,我们经常会遇到需要…

    2025年12月14日
    000
  • 扩展 Django 用户模型:添加自定义字段

    本文将介绍如何在 Django 中扩展默认的 User 模型,无需使用一对一关联,直接添加自定义字段。通过创建自定义用户模型并配置 AUTH_USER_MODEL,你可以轻松地在用户注册和管理中包含额外的 boolean 或 choice fields,并确保这些字段在 admin 后台正确显示和管…

    2025年12月14日
    000
  • 扩展 Django User 模型:无需一对一字段关联

    本文旨在提供一种无需通过一对一字段关联其他模型的方式,扩展 Django 内置 User 模型的方法。通过继承 AbstractUser 类,开发者可以方便地添加自定义字段,例如布尔值或选择字段,从而在用户注册和管理过程中纳入更多个性化信息。本文将详细介绍如何创建自定义用户模型,配置 AUTH_US…

    2025年12月14日
    000
  • python怎么导入pygame模块

    首先需安装pygame模块,使用pip install pygame命令;安装后通过import pygame导入并用pygame.init()初始化;最后运行测试代码打印“Pygame 导入成功!”验证导入。 要导入 pygame 模块,首先必须确保它已经安装在你的 Python 环境中。如果尚未…

    2025年12月14日
    000
  • 嵌套列表子列表中重复元素求和的正确方法

    本文旨在解决嵌套列表中跨子列表重复元素求和的问题。传统方法可能因扁平化列表而导致错误结果,尤其是在重复元素仅存在于单个子列表中的情况下。本文将介绍一种更有效的方法,利用字典统计元素出现次数,从而准确计算跨子列表重复元素的总和。 问题描述 给定一个嵌套列表,其中包含多个子列表,每个子列表包含整数。我们…

    2025年12月14日
    000
  • PyInstaller打包外部可执行文件教程:嵌入与运行

    本教程详细介绍了如何使用PyInstaller的.spec文件将外部可执行文件(如ffmpeg)打包到Python应用程序的独立可执行文件中。通过利用sys._MEIPASS在运行时定位这些嵌入式资源,并结合.spec文件中的datas参数,确保应用程序能够成功调用外部工具,解决了FileNotFo…

    2025年12月14日
    000
  • Scrapy CSS 选择器:精确提取HTML标签内部文本(::text)教程

    本教程将详细介绍在 Scrapy 中使用 CSS 选择器时,如何通过 ::text 伪元素精确地从 HTML 标签中提取纯文本内容,而非包含标签的完整 HTML 片段。文章将通过示例代码展示 ::text 的用法,并解释如何处理单个或多个匹配项,帮助开发者高效、准确地抓取所需数据。 理解 ::tex…

    2025年12月14日
    000
  • Python程序调试模式检测:PyCharm 2023+兼容方案

    PyCharm 2023.3更新后,传统的sys.gettrace()方法已无法准确判断Python程序是否运行在调试模式。本文介绍了一种新的兼容性方案,通过结合sys.gettrace()和sys.breakpointhook来可靠检测调试状态。该方法适用于PyCharm、VS Code和pdb等…

    2025年12月14日
    000
  • Python多版本环境下的包管理与安装策略

    本文深入探讨了在多Python版本共存环境下,pip install命令可能导致包安装到非预期版本的问题,并提供了两种核心解决方案:一是通过明确指定Python解释器版本来执行pip命令,确保包安装的精准性;二是推荐使用Python虚拟环境(venv),实现项目依赖的有效隔离与管理,从而彻底避免版本…

    2025年12月14日
    000
  • Python isort 配置:实现基于行长度的条件式多行导入格式化

    本教程详细介绍了如何配置 isort 和 VSCode,以实现 Python 导入语句的智能格式化。通过在 pyproject.toml 文件中设置 isort 的 multi_line_output 和 force_grid_wrap 参数,并相应调整 VSCode 的 settings.json…

    2025年12月14日
    000
  • Python描述符陷阱:为何内部名称必须与外部属性名不同

    本文深入探讨了Python描述符在使用getattr和setattr访问实例属性时,因内部名称与外部属性名冲突导致的无限递归问题。通过分析其工作原理,阐明了将描述符内部存储的属性名与外部公开的属性名区分开的重要性,并提供了避免RecursionError的解决方案及最佳实践。 理解Python描述符…

    2025年12月14日
    000
  • 利用Django Groups在Vue应用中管理前端视图权限

    本文探讨了在Django后端和Vue前端应用中,如何有效地利用Django内置的用户组功能来管理前端视图权限。通过分析不同策略的优劣,我们推荐将Django用户组作为前端权限控制的核心机制,并详细阐述了后端数据序列化和前端消费这些权限信息以实现动态视图限制的最佳实践,旨在提供一个结构清晰、易于维护的…

    2025年12月14日
    000
  • 使用 Pandas 合并多 Excel 文件中的指定工作表数据

    本教程旨在指导用户如何使用 Python 的 Pandas 库高效地合并来自多个 Excel 文件中指定工作表的数据。文章将详细阐述如何遍历文件目录、识别 Excel 文件、加载工作簿、筛选特定工作表并将其数据解析为 Pandas DataFrame,最终存储在一个字典中,同时会重点解决常见的 At…

    2025年12月14日
    000
  • Pandas 教程:高效合并多 Excel 文件多工作表数据并解决常见错误

    本教程详细介绍了如何使用 Python 的 Pandas 库高效地合并指定目录下的多个 Excel 文件中的特定工作表数据。文章通过迭代文件和工作表,将符合条件的数据导入到 Pandas DataFrame 字典中,并重点解析了 AttributeError: ‘str’ o…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信