高效批量处理csv文件：提取指定列并保留文件名对应关系
本文提供一种方法，实现批量提取同一文件夹下多个CSV文件中特定列的数据，并以原文件名对应的方式保存结果。
解决方案：
此任务可借助Python的Pandas库高效完成。 Pandas的read_csv()函数用于读取CSV文件，usecols参数指定需要提取的列，to_csv()函数则用于将结果写入新文件。为了避免空格分隔符导致列合并，建议在读取时指定sep='s+'参数。
以下代码片段演示了该过程：
import pandas as pdimport osdef extract_columns(input_dir, output_dir, column_indices): """ 批量提取CSV文件中指定列的数据。 Args: input_dir: 输入CSV文件所在的目录。 output_dir: 输出文件的保存目录。 column_indices: 需要提取的列的索引列表 (从0开始)。 """ for filename in os.listdir(input_dir): if filename.endswith(".csv"): filepath = os.path.join(input_dir, filename) try: df = pd.read_csv(filepath, sep='s+', usecols=column_indices, engine='python') # 使用python引擎处理复杂的空格分隔 output_filename = os.path.join(output_dir, filename) df.to_csv(output_filename, index=False) print(f"已成功处理文件: {filename}") except pd.errors.EmptyDataError: print(f"警告: 文件 {filename} 为空，跳过。") except pd.errors.ParserError: print(f"错误: 文件 {filename} 解析失败，请检查文件格式。")# 示例用法：提取第3列和第4列 (索引为2和3)input_directory = "path/to/your/input/csv/files" # 替换为你的输入目录output_directory = "path/to/your/output/directory" # 替换为你的输出目录extract_columns(input_directory, output_directory, [2, 3])
代码说明:
代码首先导入必要的库：pandas和os。extract_columns函数接受输入目录、输出目录和列索引列表作为参数。它遍历输入目录中的所有CSV文件，使用try-except块处理可能出现的空文件或解析错误。engine='python'参数可以更有效地处理包含复杂空格分隔符的CSV文件。最后，它将提取后的数据写入输出目录，文件名与输入文件名保持一致。
请记住将input_directory和output_directory替换为你的实际路径。 运行此代码后，你将在输出目录中找到包含指定列数据的CSV文件，并与原始文件名一一对应。
以上就是如何批量提取多个CSV文件中特定列的数据并保持文件名对应？的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1357298.html
微信扫一扫 
支付宝扫一扫 
