Python如何读取csv文件_Python读取csv文件方法总结

使用csv模块和pandas是Python读取CSV文件最常用的方法;csv适合基础逐行处理,pandas则擅长高效的数据分析与大规模操作,结合二者可应对绝大多数场景。

python如何读取csv文件_python读取csv文件方法总结

Python读取CSV文件,最常用且高效的方式莫过于使用内置的

csv

模块,它提供了基础而强大的解析能力,尤其适合处理结构相对简单或需要逐行处理的场景;而对于数据分析和大规模数据操作,

pandas

库则是不可或缺的利器,它将数据处理提升到了一个新的维度,让复杂的数据任务变得异常简洁。在我看来,掌握这两者,基本上就能应对Python中绝大多数CSV文件的读取需求了。

解决方案

说实话,处理CSV文件在日常工作中是再常见不过的任务了。我们来聊聊Python里那些真正好用的方法。

1. 使用Python内置的

csv

模块:基础而强大

csv

模块是Python标准库的一部分,这意味着你无需安装任何额外的东西就能使用它。它非常适合处理那些结构规整,或者你需要对每一行数据进行细致控制的场景。

立即学习“Python免费学习笔记(深入)”;

基本读取:

csv.reader

这是最直接的方式,它会返回一个迭代器,每次迭代得到一行数据,通常是一个列表。

import csv# 假设我们有一个名为 'data.csv' 的文件# 内容可能是:# Name,Age,City# Alice,30,New York# Bob,24,Londontry:    with open('data.csv', 'r', encoding='utf-8') as f:        reader = csv.reader(f)        # 跳过标题行,如果你不想要的话        header = next(reader)        print(f"文件头: {header}")        for row in reader:            print(row)except FileNotFoundError:    print("data.csv 文件不存在,请确保文件在当前目录下。")except Exception as e:    print(f"读取文件时发生错误: {e}")

这里

encoding='utf-8'

非常关键,后面我们会详细聊到编码问题。如果你的CSV文件使用分号作为分隔符,可以这样指定:

reader = csv.reader(f, delimiter=';')

字典方式读取:

csv.DictReader

我个人更偏爱

DictReader

,因为它能将每一行数据直接映射成字典,以列名作为键。这样在访问数据时,你就不需要记住列的索引了,直接用列名访问,代码可读性会大大提高。

import csvtry:    with open('data.csv', 'r', encoding='utf-8') as f:        reader = csv.DictReader(f)        for row in reader:            # 假设CSV文件有'Name'和'Age'列            print(f"姓名: {row['Name']}, 年龄: {row['Age']}")except FileNotFoundError:    print("data.csv 文件不存在。")except KeyError as e:    print(f"字典键错误,可能CSV文件缺少列名:{e}")except Exception as e:    print(f"读取文件时发生错误: {e}")

是不是感觉方便多了?当CSV文件没有标题行时,你可以通过

fieldnames

参数手动指定列名。

2. 使用

pandas

库:数据分析的利器

如果你的目标是数据分析、清洗、转换,或者处理的数据量较大,那么

pandas

绝对是你的首选。它构建在

NumPy

之上,提供了高性能的数据结构(主要是

DataFrame

),让数据处理变得异常高效和直观。

核心函数:

pd.read_csv()

pandas

read_csv()

函数功能异常强大,几乎可以应对各种复杂的CSV读取场景。

import pandas as pdtry:    # 默认情况下,read_csv()会尝试识别分隔符,并假设第一行为标题    df = pd.read_csv('data.csv', encoding='utf-8')    print("使用pandas读取的数据框:")    print(df.head()) # 打印前几行数据    print("n数据框信息:")    df.info() # 查看数据类型和非空值数量except FileNotFoundError:    print("data.csv 文件不存在。")except Exception as e:    print(f"使用pandas读取文件时发生错误: {e}")

pd.read_csv()

的常用参数:

read_csv()

的强大之处在于它的各种参数,能让你精细控制读取过程:

sep

(或

delimiter

): 指定分隔符,比如

sep=';'

header

: 指定哪一行作为列名。

header=None

表示没有标题行,

header=0

(默认)表示第一行是标题。

names

: 当没有标题行时,手动指定列名列表。

index_col

: 指定哪一列作为DataFrame的索引。

dtype

: 明确指定某些列的数据类型,可以节省内存并避免类型推断错误。

encoding

: 指定文件编码,这是个大坑,我们后面会细说。

skiprows

: 跳过文件开头的指定行数。

nrows

: 只读取文件的前N行。

chunksize

: 对于超大文件,可以分块读取,避免一次性加载到内存。

parse_dates

: 尝试将某些列解析为日期时间类型。

一个综合示例:

import pandas as pd# 假设有一个文件 'complex_data.csv'# 前两行是注释,第三行是标题,分隔符是制表符,日期列需要解析# # This is a comment# # Another comment# IDtNametBirthdaytValue# 1tAlicet1990-01-15t100.5# 2tBobt1985-03-20t200.0try:    df_complex = pd.read_csv('complex_data.csv',                             sep='t', # 指定制表符为分隔符                             skiprows=[0, 1], # 跳过前两行注释                             parse_dates=['Birthday'], # 将Birthday列解析为日期                             encoding='utf-8')    print("n使用更多参数读取的数据框:")    print(df_complex.head())    print("n解析后的数据类型:")    print(df_complex.dtypes)except FileNotFoundError:    print("complex_data.csv 文件不存在。")except Exception as e:    print(f"读取复杂文件时发生错误: {e}")

Python读取CSV文件时,最让人头疼的编码问题该如何应对?

在我多年的数据处理经验里,编码问题绝对是新手甚至老手都会频繁踩坑的地方。你经常会看到

UnicodeDecodeError

这样的报错,让人抓狂。这通常意味着你告诉Python用A编码去解读一个实际是B编码的文件。

为什么会发生编码问题?简单来说,不同的操作系统、不同的文本编辑器,甚至不同的国家,在保存文本文件时可能会使用不同的字符编码标准。比如,Windows系统下中文环境默认可能是

gbk

gb2312

,而Linux或Mac系统,以及网络传输,则更倾向于

utf-8

。当Python尝试以错误的编码方式读取文件时,它就无法正确地将字节序列转换成可识别的字符,于是就报错了。

如何诊断和解决?

首选

utf-8

经验告诉我,

utf-8

是目前最通用、兼容性最好的编码。所以,无论是使用

csv

模块还是

pandas

,我都会首先尝试

encoding='utf-8'

# csv 模块with open('file.csv', 'r', encoding='utf-8') as f:    # ...# pandasdf = pd.read_csv('file.csv', encoding='utf-8')

尝试其他常见编码:

gbk

/

gb2312

/

latin-1

/

iso-8859-1

如果

utf-8

不行,尤其是处理来自国内Windows环境的文件,那么

gbk

gb2312

是很可能正确的选择。

latin-1

iso-8859-1

则是一种更宽松的编码,它能读取几乎所有字节,但对于非拉丁字符(如中文)可能会导致乱码,不过至少能保证文件能被打开,你再手动处理乱码列。

# 尝试 gbktry:    df = pd.read_csv('file.csv', encoding='gbk')except UnicodeDecodeError:    print("gbk 编码失败,尝试其他编码...")    # 尝试 latin-1    try:        df = pd.read_csv('file.csv', encoding='latin-1')    except Exception as e:        print(f"所有尝试都失败了: {e}")

利用

chardet

库自动检测编码:当你实在不确定文件的编码时,

chardet

库可以派上用场。它会尝试猜测文件的编码。不过,请注意,

chardet

不是100%准确,尤其是在文件较小或内容不够多样时,但它能提供一个很好的起点。

import chardetimport pandas as pddef detect_encoding(file_path, num_bytes=10000):    """尝试检测文件的编码"""    with open(file_path, 'rb') as f: # 以二进制模式读取        raw_data = f.read(num_bytes) # 读取前N个字节    result = chardet.detect(raw_data)    return result['encoding']file_path = 'unknown_encoding.csv'detected_enc = detect_encoding(file_path)print(f"检测到的编码是: {detected_enc}")if detected_enc:    try:        df = pd.read_csv(file_path, encoding=detected_enc)        print("成功以检测到的编码读取文件。")    except Exception as e:        print(f"使用检测到的编码 {detected_enc} 失败: {e}")        # fallback to manual tries if detection failselse:    print("未能检测到编码,请手动尝试。")

这是一个很实用的技巧,能帮你省下不少猜测的时间。

errors

参数(慎用):

open()

函数或

pd.read_csv()

中,你可以使用

errors='ignore'

errors='replace'

来处理编码错误。

ignore

会忽略无法解码的字符,

replace

会用一个占位符替换它们。但这会丢失数据,通常只在数据质量要求不高或需要快速查看文件内容时使用。

# 忽略编码错误,但数据可能不完整或乱码df = pd.read_csv('file.csv', encoding='utf-8', errors='ignore')

总的来说,处理编码问题需要耐心和一点点试错。从

utf-8

开始,不行就尝试

gbk

,实在不行再借助

chardet

,最后才考虑

latin-1

或忽略错误。

读取CSV后,如何快速对数据进行初步的清洗和预处理?

数据读取进来只是第一步,真正有价值的工作往往从数据清洗和预处理开始。

pandas

在这方面简直是神一样的存在,它提供了一整套高效且直观的工具

查看数据概览:

df.info()

df.head()

/

df.tail()

这是我每次拿到新数据后的第一步。

df.info()

会告诉你每列的数据类型、非空值的数量以及内存占用,这对于了解数据质量至关重要。

df.head()

df.tail()

则能让你快速预览数据的前几行和后几行,有个直观的印象。

# 假设 df 已经是一个 DataFrameprint("数据框信息概览:")df.info()print("n数据框前5行:")print(df.head())

处理缺失值:

isnull()

/

dropna()

/

fillna()

缺失值是数据清洗的常客。

df.isnull().sum()

:统计每列的缺失值数量。

df.dropna()

:删除含有缺失值的行或列(

axis=1

)。

df.fillna(value)

:用指定的值(如均值、中位数、众数或特定字符串)填充缺失值。

# 检查缺失值print("n每列的缺失值数量:")print(df.isnull().sum())# 删除所有含有缺失值的行df_cleaned = df.dropna()print(f"n删除缺失值后的行数: {len(df_cleaned)}")# 用平均值填充某一列的缺失值# 假设 'Age' 列有缺失值,且是数值类型if 'Age' in df.columns and pd.api.types.is_numeric_dtype(df['Age']):    df['Age'].fillna(df['Age'].mean(), inplace=True)    print("n'Age'列缺失值已用均值填充。")

处理重复值:

duplicated()

/

drop_duplicates()

重复行会干扰分析结果。

df.duplicated().sum()

:统计重复行的数量。

df.drop_duplicates()

:删除重复行。你可以指定

subset

参数来基于特定列判断重复。

print(f"n重复行数量: {df.duplicated().sum()}")df_unique = df.drop_duplicates()print(f"删除重复行后的行数: {len(df_unique)}")

列名标准化:

rename()

有时候列名可能不规范,包含特殊字符或空格。统一列名是一个好习惯。

# 假设有一列名为 'User Name',我们想改成 'UserName'if 'User Name' in df.columns:    df.rename(columns={'User Name': 'UserName'}, inplace=True)    print("n列名 'User Name' 已重命名为 'UserName'。")

数据类型转换:

astype()

/

pd.to_datetime()

/

pd.to_numeric()

df.info()

中看到的数据类型可能不总是你想要的。比如,数字列被读成了字符串,或者日期被当成了对象。

df['column'].astype(int)

:将列转换为整数。

以上就是Python如何读取csv文件_Python读取csv文件方法总结的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1369039.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 09:18:11
下一篇 2025年12月14日 09:18:30

相关推荐

  • Uniapp 中如何不拉伸不裁剪地展示图片?

    灵活展示图片:如何不拉伸不裁剪 在界面设计中,常常需要以原尺寸展示用户上传的图片。本文将介绍一种在 uniapp 框架中实现该功能的简单方法。 对于不同尺寸的图片,可以采用以下处理方式: 极端宽高比:撑满屏幕宽度或高度,再等比缩放居中。非极端宽高比:居中显示,若能撑满则撑满。 然而,如果需要不拉伸不…

    2025年12月24日
    400
  • 如何让小说网站控制台显示乱码,同时网页内容正常显示?

    如何在不影响用户界面的情况下实现控制台乱码? 当在小说网站上下载小说时,大家可能会遇到一个问题:网站上的文本在网页内正常显示,但是在控制台中却是乱码。如何实现此类操作,从而在不影响用户界面(UI)的情况下保持控制台乱码呢? 答案在于使用自定义字体。网站可以通过在服务器端配置自定义字体,并通过在客户端…

    2025年12月24日
    800
  • 如何在地图上轻松创建气泡信息框?

    地图上气泡信息框的巧妙生成 地图上气泡信息框是一种常用的交互功能,它简便易用,能够为用户提供额外信息。本文将探讨如何借助地图库的功能轻松创建这一功能。 利用地图库的原生功能 大多数地图库,如高德地图,都提供了现成的信息窗体和右键菜单功能。这些功能可以通过以下途径实现: 高德地图 JS API 参考文…

    2025年12月24日
    400
  • 如何使用 scroll-behavior 属性实现元素scrollLeft变化时的平滑动画?

    如何实现元素scrollleft变化时的平滑动画效果? 在许多网页应用中,滚动容器的水平滚动条(scrollleft)需要频繁使用。为了让滚动动作更加自然,你希望给scrollleft的变化添加动画效果。 解决方案:scroll-behavior 属性 要实现scrollleft变化时的平滑动画效果…

    2025年12月24日
    000
  • 如何为滚动元素添加平滑过渡,使滚动条滑动时更自然流畅?

    给滚动元素平滑过渡 如何在滚动条属性(scrollleft)发生改变时为元素添加平滑的过渡效果? 解决方案:scroll-behavior 属性 为滚动容器设置 scroll-behavior 属性可以实现平滑滚动。 html 代码: click the button to slide right!…

    2025年12月24日
    500
  • 如何选择元素个数不固定的指定类名子元素?

    灵活选择元素个数不固定的指定类名子元素 在网页布局中,有时需要选择特定类名的子元素,但这些元素的数量并不固定。例如,下面这段 html 代码中,activebar 和 item 元素的数量均不固定: *n *n 如果需要选择第一个 item元素,可以使用 css 选择器 :nth-child()。该…

    2025年12月24日
    200
  • 使用 SVG 如何实现自定义宽度、间距和半径的虚线边框?

    使用 svg 实现自定义虚线边框 如何实现一个具有自定义宽度、间距和半径的虚线边框是一个常见的前端开发问题。传统的解决方案通常涉及使用 border-image 引入切片图片,但是这种方法存在引入外部资源、性能低下的缺点。 为了避免上述问题,可以使用 svg(可缩放矢量图形)来创建纯代码实现。一种方…

    2025年12月24日
    100
  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 如何让“元素跟随文本高度,而不是撑高父容器?

    如何让 元素跟随文本高度,而不是撑高父容器 在页面布局中,经常遇到父容器高度被子元素撑开的问题。在图例所示的案例中,父容器被较高的图片撑开,而文本的高度没有被考虑。本问答将提供纯css解决方案,让图片跟随文本高度,确保父容器的高度不会被图片影响。 解决方法 为了解决这个问题,需要将图片从文档流中脱离…

    2025年12月24日
    000
  • CSS元素设置em和transition后,为何载入页面无放大效果?

    css元素设置em和transition后,为何载入无放大效果 很多开发者在设置了em和transition后,却发现元素载入页面时无放大效果。本文将解答这一问题。 原问题:在视频演示中,将元素设置如下,载入页面会有放大效果。然而,在个人尝试中,并未出现该效果。这是由于macos和windows系统…

    2025年12月24日
    200
  • 为什么 CSS mask 属性未请求指定图片?

    解决 css mask 属性未请求图片的问题 在使用 css mask 属性时,指定了图片地址,但网络面板显示未请求获取该图片,这可能是由于浏览器兼容性问题造成的。 问题 如下代码所示: 立即学习“前端免费学习笔记(深入)”; icon [data-icon=”cloud”] { –icon-cl…

    2025年12月24日
    200
  • 如何利用 CSS 选中激活标签并影响相邻元素的样式?

    如何利用 css 选中激活标签并影响相邻元素? 为了实现激活标签影响相邻元素的样式需求,可以通过 :has 选择器来实现。以下是如何具体操作: 对于激活标签相邻后的元素,可以在 css 中使用以下代码进行设置: li:has(+li.active) { border-radius: 0 0 10px…

    2025年12月24日
    100
  • 如何模拟Windows 10 设置界面中的鼠标悬浮放大效果?

    win10设置界面的鼠标移动显示周边的样式(探照灯效果)的实现方式 在windows设置界面的鼠标悬浮效果中,光标周围会显示一个放大区域。在前端开发中,可以通过多种方式实现类似的效果。 使用css 使用css的transform和box-shadow属性。通过将transform: scale(1.…

    2025年12月24日
    200
  • 如何用HTML/JS实现Windows 10设置界面鼠标移动探照灯效果?

    Win10设置界面中的鼠标移动探照灯效果实现指南 想要在前端开发中实现类似于Windows 10设置界面的鼠标移动探照灯效果,有两种解决方案:CSS 和 HTML/JS 组合。 CSS 实现 不幸的是,仅使用CSS无法完全实现该效果。 立即学习“前端免费学习笔记(深入)”; HTML/JS 实现 要…

    2025年12月24日
    000
  • 为什么我的 Safari 自定义样式表在百度页面上失效了?

    为什么在 Safari 中自定义样式表未能正常工作? 在 Safari 的偏好设置中设置自定义样式表后,您对其进行测试却发现效果不同。在您自己的网页中,样式有效,而在百度页面中却失效。 造成这种情况的原因是,第一个访问的项目使用了文件协议,可以访问本地目录中的图片文件。而第二个访问的百度使用了 ht…

    2025年12月24日
    000
  • 如何用前端实现 Windows 10 设置界面的鼠标移动探照灯效果?

    如何在前端实现 Windows 10 设置界面中的鼠标移动探照灯效果 想要在前端开发中实现 Windows 10 设置界面中类似的鼠标移动探照灯效果,可以通过以下途径: CSS 解决方案 DEMO 1: Windows 10 网格悬停效果:https://codepen.io/tr4553r7/pe…

    2025年12月24日
    000
  • 如何用前端技术实现Windows 10 设置界面鼠标移动时的探照灯效果?

    探索在前端中实现 Windows 10 设置界面鼠标移动时的探照灯效果 在前端开发中,鼠标悬停在元素上时需要呈现类似于 Windows 10 设置界面所展示的探照灯效果,这其中涉及到了元素外围显示光圈效果的技术实现。 CSS 实现 虽然 CSS 无法直接实现探照灯效果,但可以通过以下技巧营造出类似效…

    2025年12月24日
    000
  • 使用CSS mask属性指定图片URL时,为什么浏览器无法加载图片?

    css mask属性未能加载图片的解决方法 使用css mask属性指定图片url时,如示例中所示: mask: url(“https://api.iconify.design/mdi:apple-icloud.svg”) center / contain no-repeat; 但是,在网络面板中却…

    2025年12月24日
    000
  • 如何用CSS Paint API为网页元素添加时尚的斑马线边框?

    为元素添加时尚的斑马线边框 在网页设计中,有时我们需要添加时尚的边框来提升元素的视觉效果。其中,斑马线边框是一种既醒目又别致的设计元素。 实现斜向斑马线边框 要实现斜向斑马线间隔圆环,我们可以使用css paint api。该api提供了强大的功能,可以让我们在元素上绘制复杂的图形。 立即学习“前端…

    2025年12月24日
    000
  • 图片如何不撑高父容器?

    如何让图片不撑高父容器? 当父容器包含不同高度的子元素时,父容器的高度通常会被最高元素撑开。如果你希望父容器的高度由文本内容撑开,避免图片对其产生影响,可以通过以下 css 解决方法: 绝对定位元素: .child-image { position: absolute; top: 0; left: …

    2025年12月24日
    000

发表回复

登录后才能评论
关注微信