Python怎么用pandas筛选数据_Pandas数据筛选实用技巧

Pandas筛选数据核心是布尔索引,通过条件生成True/False序列来选择行;结合loc、iloc、query()、isin()、between()及.str方法可实现多条件组合与复杂场景筛选,处理缺失值可用isnull()/notna(),配合括号明确优先级,提升代码可读性与效率。

python怎么用pandas筛选数据_pandas数据筛选实用技巧

Pandas在Python里筛选数据,核心就是利用布尔索引(Boolean Indexing)。你给它一个条件,它会返回一个True/False的序列,然后Pandas就用这个序列来挑选出所有对应为True的行。此外,

loc

iloc

这两个强大的访问器,配合布尔索引能实现更精细的筛选。更高级点,

query()

方法提供了一种更接近SQL的筛选语法,对于复杂条件尤其方便。理解这些,基本上就能应对绝大多数数据筛选的场景了。

import pandas as pdimport numpy as np# 假设我们有一个DataFramedata = {    '姓名': ['张三', '李四', '王五', '赵六', '钱七', '孙八', '周九'],    '年龄': [25, 30, 22, 35, 28, 40, 32],    '城市': ['北京', '上海', '广州', '北京', '深圳', '上海', '杭州'],    '收入': [8000, 12000, 7000, 15000, 10000, 18000, 9500],    '是否在职': [True, True, False, True, True, True, False]}df = pd.DataFrame(data)print("原始DataFrame:")print(df)print("-" * 30)# 1. 基本布尔索引筛选:筛选年龄大于30的人filtered_df_age = df[df['年龄'] > 30]print("筛选年龄大于30的人:")print(filtered_df_age)print("-" * 30)# 2. 使用loc进行筛选:筛选城市是北京且收入高于10000的人# loc的强大之处在于可以同时指定行和列的标签filtered_df_loc = df.loc[(df['城市'] == '北京') & (df['收入'] > 10000)]print("筛选城市是北京且收入高于10000的人 (使用loc):")print(filtered_df_loc)print("-" * 30)# 3. 使用query()方法:筛选年龄在25到35之间,且不在职的人# query方法用字符串表达式,有时候写起来更直观filtered_df_query = df.query('25 <= 年龄 <= 35 and not 是否在职')print("筛选年龄在25到35之间,且不在职的人 (使用query):")print(filtered_df_query)print("-" * 30)# 4. 使用isin()方法:筛选城市是北京或上海的人filtered_df_isin = df[df['城市'].isin(['北京', '上海'])]print("筛选城市是北京或上海的人 (使用isin):")print(filtered_df_isin)print("-" * 30)# 5. 字符串方法筛选:筛选姓名包含“三”或“七”的人# 注意这里需要访问.str属性filtered_df_str = df[df['姓名'].str.contains('三|七')]print("筛选姓名包含“三”或“七”的人 (使用str.contains):")print(filtered_df_str)print("-" * 30)# 6. 筛选缺失值:如果DataFrame中有缺失值df_with_nan = df.copy()df_with_nan.loc[0, '收入'] = np.nandf_with_nan.loc[2, '城市'] = np.nanprint("包含缺失值的DataFrame:")print(df_with_nan)print("-" * 30)# 筛选收入不为空的行filtered_not_null = df_with_nan[df_with_nan['收入'].notna()]print("筛选收入不为空的行:")print(filtered_not_null)print("-" * 30)# 筛选城市为空的行filtered_null_city = df_with_nan[df_with_nan['城市'].isnull()]print("筛选城市为空的行:")print(filtered_null_city)print("-" * 30)

如何用多条件组合筛选数据?

在实际的数据分析中,我们很少只用一个条件来筛选数据。通常都需要结合多个条件,比如“年龄大于30且城市是上海”或者“收入低于8000或不在职”。Pandas在这方面做得非常灵活,主要依赖于布尔运算符

&

(and),

|

(or),

~

(not)。我个人在写多条件筛选时,习惯性地会把每个条件用括号括起来,这样不仅能明确运算的优先级,也能让代码看起来更清晰,减少出错的可能。毕竟,Python的运算符优先级有时候挺微妙的,不加括号可能就不是你想要的结果了。

举个例子,我们想找出那些“年龄大于30”并且“收入高于15000”的人。

立即学习“Python免费学习笔记(深入)”;

# 筛选年龄大于30 并且 收入高于15000的人filtered_and = df[(df['年龄'] > 30) & (df['收入'] > 15000)]print("年龄大于30 并且 收入高于15000的人:")print(filtered_and)print("-" * 30)# 如果我们想找“城市是北京”或者“是否在职为False”的人filtered_or = df[(df['城市'] == '北京') | (df['是否在职'] == False)]print("城市是北京 或者 是否在职为False 的人:")print(filtered_or)print("-" * 30)# 组合“非”操作:筛选不是北京人,且年龄小于30的人filtered_not_and = df[(~(df['城市'] == '北京')) & (df['年龄'] < 30)]print("不是北京人,且年龄小于30的人:")print(filtered_not_and)print("-" * 30)

这里有个小细节,如果你不加括号,像

df['年龄'] > 30 & df['收入'] > 15000

这样写,Python会先计算

30 & df['收入']

,这显然不是我们想要的布尔运算。所以,养成给每个条件加括号的好习惯,能省去不少调试时间。

除了布尔索引,还有哪些高效的筛选方法?

布尔索引确实是基石,但Pandas还提供了不少“语法糖”或者说更“高阶”的筛选方法,它们在特定场景下能让代码更简洁、更具可读性。我个人觉得,这些方法并不是要取代布尔索引,而是作为它的补充,或者说,是布尔索引在特定模式下的优化封装。

query()

方法:这个方法我有时候会偷懒用,特别是条件比较多、比较复杂的时候。它允许你用字符串的形式表达筛选条件,非常类似于SQL的

WHERE

子句。对于熟悉SQL的人来说,上手会很快。它内部会进行一些优化,在处理大型数据集时可能比直接的布尔索引效率更高,因为它避免了创建大量的中间布尔Series。

# 筛选年龄大于25,收入小于12000,且城市不是上海的人filtered_query_complex = df.query('年龄 > 25 and 收入 = @min_age and 城市 == @target_city')print(f"使用query()和外部变量筛选:年龄大于等于{min_age},且城市是{target_city}的人:")print(filtered_query_var)print("-" * 30)
query()

的缺点是,如果你条件非常简单,写成字符串反而显得有点重,而且调试字符串表达式有时候不如直接的Python表达式直观。但对于复杂条件,它确实能让代码更像“人话”。

isin()

方法:当你想筛选某一列的值是否在给定的一组值中时,

isin()

方法简直是神器。它比写一堆

or

条件要优雅得多。

# 筛选城市是北京、上海或深圳的人target_cities = ['北京', '上海', '深圳']filtered_isin_list = df[df['城市'].isin(target_cities)]print(f"使用isin()筛选:城市在{target_cities}中的人:")print(filtered_isin_list)print("-" * 30)

between()

方法:对于数值型数据,如果你想筛选一个范围内的值,

between()

方法非常方便,它默认是包含边界的(inclusive)。

# 筛选收入在8000到12000之间的人 (包含8000和12000)filtered_between_income = df[df['收入'].between(8000, 12000)]print("使用between()筛选:收入在8000到12000之间的人:")print(filtered_between_income)print("-" * 30)

字符串方法 (

.str

accessor):当你的列是字符串类型时,Pandas提供了

.str

访问器,里面封装了很多字符串操作方法,比如

contains()

startswith()

endswith()

match()

等,它们都能直接用于筛选。

# 筛选姓名以“张”开头的人filtered_str_start = df[df['姓名'].str.startswith('张')]print("使用str.startswith()筛选:姓名以“张”开头的人:")print(filtered_str_start)print("-" * 30)# 筛选城市名称中包含“京”字的行filtered_str_contains = df[df['城市'].str.contains('京')]print("使用str.contains()筛选:城市名称中包含“京”字的行:")print(filtered_str_contains)print("-" * 30)

这些方法在处理文本数据时,真的能让代码变得非常简洁和高效。

处理缺失值或特定类型数据时,筛选有什么技巧?

处理缺失值(NaN, Not a Number)是数据清洗的常见环节,筛选出或排除缺失值也是一种重要的筛选操作。Pandas为此提供了非常直观的方法:

isnull()

notnull()

(或者它们的别名

isna()

notna()

)。

筛选缺失值 (

isnull()

/

isna()

):如果你想找出某一列中所有值为缺失值的行,就用这个。这对于理解数据质量,或者专门处理那些不完整的数据非常有用。

# 假设我们有一个DataFrame,其中包含一些缺失值df_with_missing = df.copy()df_with_missing.loc[1, '年龄'] = np.nandf_with_missing.loc[4, '收入'] = np.nandf_with_missing.loc[6, '城市'] = np.nanprint("包含缺失值的DataFrame:")print(df_with_missing)print("-" * 30)# 筛选年龄列中存在缺失值的行missing_age_rows = df_with_missing[df_with_missing['年龄'].isnull()]print("筛选年龄列中存在缺失值的行:")print(missing_age_rows)print("-" * 30)# 筛选收入列中存在缺失值的行missing_income_rows = df_with_missing[df_with_missing['收入'].isna()]print("筛选收入列中存在缺失值的行 (使用isna()):")print(missing_income_rows)print("-" * 30)

筛选非缺失值 (

notnull()

/

notna()

):

isnull()

相反,

notnull()

用于筛选出某一列中所有非缺失值的行。这在很多情况下更常用,因为我们通常希望处理完整的数据。

# 筛选收入列中没有缺失值的行non_missing_income_rows = df_with_missing[df_with_missing['收入'].notnull()]print("筛选收入列中没有缺失值的行:")print(non_missing_income_rows)print("-" * 30)# 筛选城市列中没有缺失值的行non_missing_city_rows = df_with_missing[df_with_missing['城市'].notna()]print("筛选城市列中没有缺失值的行 (使用notna()):")print(non_missing_city_rows)print("-" * 30)

结合多列缺失值筛选:我们也可以结合多个条件来筛选,比如筛选所有至少有一列缺失值的行,或者所有特定几列都非缺失值的行。

# 筛选任何一列存在缺失值的行 (axis=1表示在行方向上检查)rows_with_any_nan = df_with_missing[df_with_missing.isnull().any(axis=1)]print("筛选任何一列存在缺失值的行:")print(rows_with_any_nan)print("-" * 30)# 筛选所有列都非缺失值的行 (即删除所有包含缺失值的行)rows_with_no_nan = df_with_missing[df_with_missing.notnull().all(axis=1)]# 这其实和 df_with_missing.dropna() 的效果类似,但这里是筛选,dropna是直接删除print("筛选所有列都非缺失值的行:")print(rows_with_no_nan)print("-" * 30)

至于“特定类型数据”的筛选,这通常不是直接筛选数据内容,而是筛选DataFrame的列。比如,我们可能想找出所有数值型的列,或者所有对象(字符串)类型的列。这通常通过

select_dtypes()

方法来完成,而不是直接的行筛选。但如果你想筛选出某一列中数据类型“不符合预期”的行,那可能需要结合

apply()

type()

函数,或者在数据加载阶段就做好类型转换。例如,筛选出“年龄”列中不是整数的行,这在数据清洗中偶尔会遇到。

# 假设年龄列里不小心混入了一个字符串df_mixed_type = df.copy()df_mixed_type.loc[0, '年龄'] = '二十五'print("包含混合类型数据的DataFrame:")print(df_mixed_type)print("-" * 30)# 筛选年龄列中不是数值类型的行# 这里需要用apply和type()来检查每个元素non_numeric_age_rows = df_mixed_type[df_mixed_type['年龄'].apply(lambda x: not isinstance(x, (int, float)))]print("筛选年龄列中不是数值类型的行:")print(non_numeric_age_rows)print("-" * 30)

这种对数据类型进行筛选的场景,虽然不那么常见,但在数据质量检查时确实能派上用场。总的来说,Pandas的筛选功能非常强大和灵活,只要掌握了布尔索引的原理,再结合各种辅助方法,就能游刃有余地处理各种数据筛选需求了。

以上就是Python怎么用pandas筛选数据_Pandas数据筛选实用技巧的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1371392.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 11:24:26
下一篇 2025年12月14日 11:24:51

相关推荐

  • Uniapp 中如何不拉伸不裁剪地展示图片?

    灵活展示图片:如何不拉伸不裁剪 在界面设计中,常常需要以原尺寸展示用户上传的图片。本文将介绍一种在 uniapp 框架中实现该功能的简单方法。 对于不同尺寸的图片,可以采用以下处理方式: 极端宽高比:撑满屏幕宽度或高度,再等比缩放居中。非极端宽高比:居中显示,若能撑满则撑满。 然而,如果需要不拉伸不…

    2025年12月24日
    400
  • 如何让小说网站控制台显示乱码,同时网页内容正常显示?

    如何在不影响用户界面的情况下实现控制台乱码? 当在小说网站上下载小说时,大家可能会遇到一个问题:网站上的文本在网页内正常显示,但是在控制台中却是乱码。如何实现此类操作,从而在不影响用户界面(UI)的情况下保持控制台乱码呢? 答案在于使用自定义字体。网站可以通过在服务器端配置自定义字体,并通过在客户端…

    2025年12月24日
    800
  • 如何在地图上轻松创建气泡信息框?

    地图上气泡信息框的巧妙生成 地图上气泡信息框是一种常用的交互功能,它简便易用,能够为用户提供额外信息。本文将探讨如何借助地图库的功能轻松创建这一功能。 利用地图库的原生功能 大多数地图库,如高德地图,都提供了现成的信息窗体和右键菜单功能。这些功能可以通过以下途径实现: 高德地图 JS API 参考文…

    2025年12月24日
    400
  • 如何使用 scroll-behavior 属性实现元素scrollLeft变化时的平滑动画?

    如何实现元素scrollleft变化时的平滑动画效果? 在许多网页应用中,滚动容器的水平滚动条(scrollleft)需要频繁使用。为了让滚动动作更加自然,你希望给scrollleft的变化添加动画效果。 解决方案:scroll-behavior 属性 要实现scrollleft变化时的平滑动画效果…

    2025年12月24日
    000
  • 如何为滚动元素添加平滑过渡,使滚动条滑动时更自然流畅?

    给滚动元素平滑过渡 如何在滚动条属性(scrollleft)发生改变时为元素添加平滑的过渡效果? 解决方案:scroll-behavior 属性 为滚动容器设置 scroll-behavior 属性可以实现平滑滚动。 html 代码: click the button to slide right!…

    2025年12月24日
    500
  • 如何选择元素个数不固定的指定类名子元素?

    灵活选择元素个数不固定的指定类名子元素 在网页布局中,有时需要选择特定类名的子元素,但这些元素的数量并不固定。例如,下面这段 html 代码中,activebar 和 item 元素的数量均不固定: *n *n 如果需要选择第一个 item元素,可以使用 css 选择器 :nth-child()。该…

    2025年12月24日
    200
  • 使用 SVG 如何实现自定义宽度、间距和半径的虚线边框?

    使用 svg 实现自定义虚线边框 如何实现一个具有自定义宽度、间距和半径的虚线边框是一个常见的前端开发问题。传统的解决方案通常涉及使用 border-image 引入切片图片,但是这种方法存在引入外部资源、性能低下的缺点。 为了避免上述问题,可以使用 svg(可缩放矢量图形)来创建纯代码实现。一种方…

    2025年12月24日
    100
  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 如何让“元素跟随文本高度,而不是撑高父容器?

    如何让 元素跟随文本高度,而不是撑高父容器 在页面布局中,经常遇到父容器高度被子元素撑开的问题。在图例所示的案例中,父容器被较高的图片撑开,而文本的高度没有被考虑。本问答将提供纯css解决方案,让图片跟随文本高度,确保父容器的高度不会被图片影响。 解决方法 为了解决这个问题,需要将图片从文档流中脱离…

    2025年12月24日
    000
  • 为什么 CSS mask 属性未请求指定图片?

    解决 css mask 属性未请求图片的问题 在使用 css mask 属性时,指定了图片地址,但网络面板显示未请求获取该图片,这可能是由于浏览器兼容性问题造成的。 问题 如下代码所示: 立即学习“前端免费学习笔记(深入)”; icon [data-icon=”cloud”] { –icon-cl…

    2025年12月24日
    200
  • 如何利用 CSS 选中激活标签并影响相邻元素的样式?

    如何利用 css 选中激活标签并影响相邻元素? 为了实现激活标签影响相邻元素的样式需求,可以通过 :has 选择器来实现。以下是如何具体操作: 对于激活标签相邻后的元素,可以在 css 中使用以下代码进行设置: li:has(+li.active) { border-radius: 0 0 10px…

    2025年12月24日
    100
  • 如何模拟Windows 10 设置界面中的鼠标悬浮放大效果?

    win10设置界面的鼠标移动显示周边的样式(探照灯效果)的实现方式 在windows设置界面的鼠标悬浮效果中,光标周围会显示一个放大区域。在前端开发中,可以通过多种方式实现类似的效果。 使用css 使用css的transform和box-shadow属性。通过将transform: scale(1.…

    2025年12月24日
    200
  • 为什么我的 Safari 自定义样式表在百度页面上失效了?

    为什么在 Safari 中自定义样式表未能正常工作? 在 Safari 的偏好设置中设置自定义样式表后,您对其进行测试却发现效果不同。在您自己的网页中,样式有效,而在百度页面中却失效。 造成这种情况的原因是,第一个访问的项目使用了文件协议,可以访问本地目录中的图片文件。而第二个访问的百度使用了 ht…

    2025年12月24日
    000
  • 如何用前端实现 Windows 10 设置界面的鼠标移动探照灯效果?

    如何在前端实现 Windows 10 设置界面中的鼠标移动探照灯效果 想要在前端开发中实现 Windows 10 设置界面中类似的鼠标移动探照灯效果,可以通过以下途径: CSS 解决方案 DEMO 1: Windows 10 网格悬停效果:https://codepen.io/tr4553r7/pe…

    2025年12月24日
    000
  • 使用CSS mask属性指定图片URL时,为什么浏览器无法加载图片?

    css mask属性未能加载图片的解决方法 使用css mask属性指定图片url时,如示例中所示: mask: url(“https://api.iconify.design/mdi:apple-icloud.svg”) center / contain no-repeat; 但是,在网络面板中却…

    2025年12月24日
    000
  • 如何用CSS Paint API为网页元素添加时尚的斑马线边框?

    为元素添加时尚的斑马线边框 在网页设计中,有时我们需要添加时尚的边框来提升元素的视觉效果。其中,斑马线边框是一种既醒目又别致的设计元素。 实现斜向斑马线边框 要实现斜向斑马线间隔圆环,我们可以使用css paint api。该api提供了强大的功能,可以让我们在元素上绘制复杂的图形。 立即学习“前端…

    2025年12月24日
    000
  • 图片如何不撑高父容器?

    如何让图片不撑高父容器? 当父容器包含不同高度的子元素时,父容器的高度通常会被最高元素撑开。如果你希望父容器的高度由文本内容撑开,避免图片对其产生影响,可以通过以下 css 解决方法: 绝对定位元素: .child-image { position: absolute; top: 0; left: …

    2025年12月24日
    000
  • 使用 Mask 导入本地图片时,如何解决跨域问题?

    跨域疑难:如何解决 mask 引入本地图片产生的跨域问题? 在使用 mask 导入本地图片时,你可能会遇到令人沮丧的跨域错误。为什么会出现跨域问题呢?让我们深入了解一下: mask 框架假设你以 http(s) 协议加载你的 html 文件,而当使用 file:// 协议打开本地文件时,就会产生跨域…

    2025年12月24日
    200
  • CSS 帮助

    我正在尝试将文本附加到棕色框的左侧。我不能。我不知道代码有什么问题。请帮助我。 css .hero { position: relative; bottom: 80px; display: flex; justify-content: left; align-items: start; color:…

    2025年12月24日 好文分享
    200
  • 前端代码辅助工具:如何选择最可靠的AI工具?

    前端代码辅助工具:可靠性探讨 对于前端工程师来说,在HTML、CSS和JavaScript开发中借助AI工具是司空见惯的事情。然而,并非所有工具都能提供同等的可靠性。 个性化需求 关于哪个AI工具最可靠,这个问题没有一刀切的答案。每个人的使用习惯和项目需求各不相同。以下是一些影响选择的重要因素: 立…

    2025年12月24日
    300

发表回复

登录后才能评论
关注微信