Pandas教程:使用向量化方法按日期筛选DataFrame列值

Pandas教程:使用向量化方法按日期筛选DataFrame列值

在pandas中处理时间序列数据时,一项常见任务是根据特定的日期或日期时间条件,从dataframe中提取相应的列值,并将不符合条件的行填充为nan(not a number)。例如,你可能只想在某个特定交易日记录“事件”值,而在其他日期则标记为缺失。

初学者在尝试解决此类问题时,可能会倾向于使用for循环遍历DataFrame的行,但这种方法通常效率低下,并且容易因不当的赋值操作导致错误结果。本教程将深入探讨如何使用Pandas的向量化操作,以高效、简洁且正确的方式实现这一目标。

1. 向量化操作:使用 Series.where() (推荐)

Series.where()是Pandas中一个非常强大的方法,它允许你根据一个布尔条件选择性地保留或替换Series中的值。当条件为True时,保留原始值;当条件为False时,则替换为指定值(默认为NaN)。这是处理条件赋值任务的首选方法,因为它利用了Pandas底层的优化,效率远高于Python循环。

1.1 场景一:仅按日期匹配(忽略时间部分)

如果你的DataFrame索引包含时间信息(例如,每小时、每分钟),但你只想根据日期进行匹配(即,某天的所有时间点都符合条件),可以使用DatetimeIndex.normalize()方法。normalize()会将所有日期时间戳规范化为当天的午夜(00:00:00),从而方便进行日期层面的比较。

示例代码:

import pandas as pdimport numpy as np# 创建一个带有时间组件的示例DataFramerng_with_time = pd.date_range('2000-03-19', periods=10, freq='9H')df_with_time = pd.DataFrame({'close': range(10)}, index=rng_with_time)print("原始DataFrame (带时间组件):")print(df_with_time)print("-" * 30)# 使用 Series.where() 和 normalize() 提取特定日期的 'close' 值# 目标日期为 '2000-03-20'df_with_time['event'] = df_with_time['close'].where(    df_with_time.index.normalize() == pd.Timestamp('2000-03-20'))print("n使用 normalize() 提取 '2000-03-20' 的 'event' 列:")print(df_with_time)

输出:

原始DataFrame (带时间组件):                     close2000-03-19 00:00:00      02000-03-19 09:00:00      12000-03-19 18:00:00      22000-03-20 03:00:00      32000-03-20 12:00:00      42000-03-20 21:00:00      52000-03-21 06:00:00      62000-03-21 15:00:00      72000-03-22 00:00:00      82000-03-22 09:00:00      9------------------------------使用 normalize() 提取 '2000-03-20' 的 'event' 列:                     close  event2000-03-19 00:00:00      0    NaN2000-03-19 09:00:00      1    NaN2000-03-19 18:00:00      2    NaN2000-03-20 03:00:00      3    3.02000-03-20 12:00:00      4    4.02000-03-20 21:00:00      5    5.02000-03-21 06:00:00      6    NaN2000-03-21 15:00:00      7    NaN2000-03-22 00:00:00      8    NaN2000-03-22 09:00:00      9    NaN

1.2 场景二:精确按日期时间匹配

如果你的DataFrame索引没有时间组件(例如,每日数据),或者你需要精确匹配到特定的日期和时间点,可以直接将DataFrame索引与目标pd.Timestamp对象或日期时间字符串进行比较。

示例代码:

import pandas as pdimport numpy as np# 创建一个不带时间组件的示例DataFrame (每日数据)rng_daily = pd.date_range('2000-03-19', periods=10)df_daily = pd.DataFrame({'close': range(10)}, index=rng_daily)print("原始DataFrame (每日数据):")print(df_daily)print("-" * 30)# 使用 Series.where() 精确匹配 '2000-03-20 00:00:00'df_daily['event'] = df_daily['close'].where(    df_daily.index == pd.Timestamp('2000-03-20 00:00:00'))print("n使用 Series.where() 精确匹配 '2000-03-20' 的 'event' 列:")print(df_daily)

输出:

原始DataFrame (每日数据):            close2000-03-19      02000-03-20      12000-03-21      22000-03-22      32000-03-23      42000-03-24      52000-03-25      62000-03-26      72000-03-27      82000-03-28      9------------------------------使用 Series.where() 精确匹配 '2000-03-20' 的 'event' 列:            close  event2000-03-19      0    NaN2000-03-20      1    1.02000-03-21      2    NaN2000-03-22      3    NaN2000-03-23      4    NaN2000-03-24      5    NaN2000-03-25      6    NaN2000-03-26      7    NaN2000-03-27      8    NaN2000-03-28      9    NaN

2. 使用部分字符串索引 (Partial String Indexing)

Pandas的DatetimeIndex支持强大的部分字符串索引功能。这意味着你可以使用日期字符串(例如’YYYY-MM-DD’)直接选择该日期内的所有行。结合loc方法,这提供了一种简洁的方式来更新或赋值特定日期的列值。

ProWritingAid ProWritingAid

AI写作助手软件

ProWritingAid 114 查看详情 ProWritingAid

要实现“仅在特定日期有值,其他日期为NaN”的效果,可以先将目标列初始化为NaN,然后使用部分字符串索引对特定日期进行赋值。

示例代码:

import pandas as pdimport numpy as np# 使用带有时间组件的DataFramerng_with_time = pd.date_range('2000-03-19', periods=10, freq='9H')df_with_time_psi = pd.DataFrame({'close': range(10)}, index=rng_with_time)print("原始DataFrame (用于部分字符串索引):")print(df_with_time_psi)print("-" * 30)# 初始化 'event' 列为 NaNdf_with_time_psi['event'] = np.nan# 使用部分字符串索引将 '2000-03-20' 的 'close' 值赋给 'event' 列df_with_time_psi.loc['2000-03-20', 'event'] = df_with_time_psi['close']print("n使用部分字符串索引提取 '2000-03-20' 的 'event' 列:")print(df_with_time_psi)

输出:

原始DataFrame (用于部分字符串索引):                     close2000-03-19 00:00:00      02000-03-19 09:00:00      12000-03-19 18:00:00      22000-03-20 03:00:00      32000-03-20 12:00:00      42000-03-20 21:00:00      52000-03-21 06:00:00      62000-03-21 15:00:00      72000-03-22 00:00:00      82000-03-22 09:00:00      9------------------------------使用部分字符串索引提取 '2000-03-20' 的 'event' 列:                     close  event2000-03-19 00:00:00      0    NaN2000-03-19 09:00:00      1    NaN2000-03-19 18:00:00      2    NaN2000-03-20 03:00:00      3    3.02000-03-20 12:00:00      4    4.02000-03-20 21:00:00      5    5.02000-03-21 06:00:00      6    NaN2000-03-21 15:00:00      7    NaN2000-03-22 00:00:00      8    NaN2000-03-22 09:00:00      9    NaN

3. 修正 iterrows 循环(不推荐)

虽然iterrows循环在某些复杂场景下可能有用,但它通常不是处理DataFrame的推荐方式,尤其是在需要更新DataFrame时。原始问题中遇到的错误就是df[‘event’] = row[‘close’]在每次循环中都会尝试将整个event列赋值为当前行的close值,而不是只更新当前行。这导致最终event列被最后一次迭代的值(或NaN)覆盖。

要正确地在循环中更新DataFrame,必须使用df.loc或df.iloc进行基于标签或整数位置的赋值。

修正后的 iterrows 循环示例:

import pandas as pdimport numpy as np# 使用带有时间组件的DataFramerng_with_time_loop = pd.date_range('2000-03-19', periods=10, freq='9H')df_with_time_loop = pd.DataFrame({'close': range(10)}, index=rng_with_time_loop)print("原始DataFrame (用于修正循环):")print(df_with_time_loop)print("-" * 30)# 初始化 'event' 列为 NaN,这是在循环前应该做的df_with_time_loop['event'] = np.nan# 修正后的 iterrows 循环,按日期匹配for index, row in df_with_time_loop.iterrows():    # 使用 normalize() 仅比较日期部分    if index.normalize() == pd.Timestamp('2000-03-20 00:00:00'):        df_with_time_loop.loc[index, 'event'] = row['close']    else:        df_with_time_loop.loc[index, 'event'] = np.nan # 明确设置为 NaN,虽然已经初始化print("n修正后的 iterrows 循环 (按日期匹配):")print(df_with_time_loop)# ----------------------------------------------------# 使用不带时间组件的DataFrame (每日数据)rng_daily_loop = pd.date_range('2000-03-19', periods=10)df_daily_loop = pd.DataFrame({'close': range(10)}, index=rng_daily_loop)print("n" + "=" * 30)print("原始DataFrame (每日数据,用于修正循环):")print(df_daily_loop)print("-" * 30)df_daily_loop['event'] = np.nan# 修正后的 iterrows 循环,精确按日期时间匹配for index, row in df_daily_loop.iterrows():    # 精确匹配日期时间    if index == pd.Timestamp('2000-03-20 00:00:00'):        df_daily_loop.loc[index, 'event'] = row['close']    else:        df_daily_loop.loc[index, 'event'] = np.nanprint("n修正后的 iterrows 循环 (精确按日期时间匹配):")print(df_daily_loop)

输出:

原始DataFrame (用于修正循环):                     close2000-03-19 00:00:00      02000-03-19 09:00:00      12000-03-19 18:00:00      22000-03-20 03:00:00      

以上就是Pandas教程:使用向量化方法按日期筛选DataFrame列值的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/918827.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
u盘文件中病毒怎么办
上一篇 2025年11月29日 06:45:14
魅族21pro怎么关机重启?
下一篇 2025年11月29日 06:45:23

相关推荐

  • Java中基于栈验证JSON字符串结构有效性的方法

    本文探讨了在Java中利用栈(Stack)数据结构验证JSON字符串结构有效性的方法。我们将分析一个常见的基于栈的实现示例,指出其在处理字符串内部字符、引号平衡以及转义字符方面的潜在缺陷。文章将提供一个改进的解决方案,并强调此方法主要用于结构匹配,而非完整的JSON语法验证,同时建议生产环境中使用专…

    2026年9月23日
    100
  • 快手极速版官方网页版地址_快手极速版App下载官网首页

    快手极速版官方网页版地址在哪里?这是不少网友都关注的,接下来由PHP小编为大家带来快手极速版官方网页版地址及App下载相关信息,感兴趣的网友一起随小编来瞧瞧吧! https://www.kuaishou.com/ 1、小步骤内容。进入官网后可直接浏览平台首页推荐内容,涵盖生活记录、才艺展示等多个领域…

    2026年9月23日
    200
  • Flink项目实践 | Flink 单机安装部署

    Flink项目实践 | Flink 单机安装部署Flink项目实践 | Flink 单机安装部署Flink项目实践 | Flink 单机安装部署Flink项目实践 | Flink 单机安装部署

    apache flink 是一个用于对无界和有界数据流进行状态计算的框架和分布式处理引擎。flink 设计旨在所有常见集群环境中运行,并以内存速度和任意规模进行计算。 为了深入了解 Flink,首先需要搭建其运行环境。 Flink 可以在所有类似 UNIX 的环境中运行,包括 Linux,Mac O…

    2026年9月23日 用户投稿
    200
  • Windows系统安装MySQL的完整步骤是什么?

    Windows系统安装MySQL的完整步骤是什么?Windows系统安装MySQL的完整步骤是什么?Windows系统安装MySQL的完整步骤是什么?Windows系统安装MySQL的完整步骤是什么?

    安装#%#$#%@%@%$#%$#%#%#$%@_81c++3b080dad537de7e10e0987a4bf52e前需准备系统兼容性、硬件资源、前置运行时库、管理员权限及排查端口冲突。1. 系统兼容性:确保使用windows 10/11或对应server版本;2. 硬件资源:建议至少4gb内存;…

    2026年9月23日 用户投稿
    100
  • 如何在AdobeFresco导出AI生成的画作?快速保存图像的教程

    答案:Adobe Fresco支持PNG、JPG、PSD、PDF和MP4等导出格式。PNG适合透明背景和高质量网络展示;JPG适用于小文件、快速分享的有损压缩图像;PSD保留图层与矢量信息,便于在Photoshop中继续编辑;PDF适合打印和跨平台文档共享;MP4用于导出创作延时视频。选择格式时需根…

    2026年9月23日
    100
  • VSCode配置MacOS C环境 详细图解VSCode搭建C++开发

    在mac++os上用vscode配置c/c++环境的关键是安装xcode command line tools以获取clang编译器和lldb调试器,然后安装vscode的c/c++扩展,接着创建项目文件夹和源文件,通过配置tasks.json定义编译任务,确保使用clang编译当前文件并生成可执行…

    2026年9月23日
    100
  • Springboot项目引入xxl-job

    要将xxl-job集成到spring boot项目中,可以按照以下步骤进行操作: 首先,从Gitee拉取xxl-job的源码,并将其配置为Docker镜像部署到服务器上。 # 执行Maven打包mvn clean install构建Docker镜像,镜像名称中不允许使用下划线docker build…

    2026年9月23日
    000
  • Snagit的AI工具怎么裁剪图片?教你精准完成图片裁剪方法

    Snagit的AI工具怎么裁剪图片?教你精准完成图片裁剪方法Snagit的AI工具怎么裁剪图片?教你精准完成图片裁剪方法Snagit的AI工具怎么裁剪图片?教你精准完成图片裁剪方法Snagit的AI工具怎么裁剪图片?教你精准完成图片裁剪方法

    Snagit虽无一键AI裁剪,但通过魔棒、智能移动等智能工具辅助选区,结合裁剪功能可高效精准裁剪;关键在于利用颜色识别与对象分离技术提升效率,避免纯手动操作,再通过调整比例、放大细节、善用撤销等功能优化结果。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R…

    2026年9月23日 用户投稿
    000
  • Java javac 命令与当前工作目录解析

    在Java编译环境中,javac命令的“当前目录”指的是命令被执行的物理位置,而非源文件所在的目录。理解这一概念对于正确配置和管理Java项目的编译路径至关重要,特别是当默认的classpath设置为.时,它决定了编译器查找类文件的起点。 1. javac 命令与当前工作目录的定义 在操作系统中,当…

    2026年9月23日
    100
  • 苹果 iPhone Air 今日正式发售:仅支持 eSIM,起售价 7999 元

    10 月 22 日消息,苹果全新 iphone air 于今日上午 8:00 正式开售,起售价定为 7999 元。值得关注的是,该机型仅支持 esim 功能,用户需持本人有效身份证件前往运营商实体营业厅完成实名核验与服务激活。现阶段仍处于商用试验阶段,暂未开放线上办理通道。 iPhone Air 搭…

    2026年9月23日
    200
  • VSCode调试JavaScript代码(详细图解,前端必学技能)

    掌握VSCode调试JavaScript需先安装Node.js和VSCode,创建项目及app.js文件后,配置launch.json,设置断点并启动调试,通过变量面板和控制台检查值,结合条件断点、日志点、监听表达式等技巧提升效率;调试浏览器代码需安装Chrome或Edge调试插件,配置url和we…

    2026年9月23日
    200
  • Bash Shell 中单引号和双引号的区别

    Bash Shell 中单引号和双引号的区别Bash Shell 中单引号和双引号的区别Bash Shell 中单引号和双引号的区别Bash Shell 中单引号和双引号的区别

    在 linux 命令行中,引号是处理文件名中的空格和特殊字符的常用工具。引号在 shell 脚本中具有“特殊功能”,可能让初学者感到困惑。让我们详细探讨不同类型的引号字符及其在 shell 脚本中的用法。 有四种不同类型的引号字符: 单引号 ‘双引号 “反斜杠 反引号 ` 除…

    2026年9月23日 用户投稿
    500
  • Linux中如何查看服务日志?journalctl与syslog使用指南

    Linux中如何查看服务日志?journalctl与syslog使用指南Linux中如何查看服务日志?journalctl与syslog使用指南Linux中如何查看服务日志?journalctl与syslog使用指南Linux中如何查看服务日志?journalctl与syslog使用指南

    排查linux服务问题时,首选journalctl或syslog类系统查看日志。journalctl适用于systemd系统,可查看内核消息、服务启动输出等,支持按时间、单元、优先级过滤;syslog适用于传统系统,需服务主动发送日志,支持集中管理。掌握两者使用能有效定位问题。 在Linux系统中排…

    2026年9月23日 用户投稿
    100
  • Java语法基础中main方法为什么必须是public static void

    Main方法必须声明为public static void以确保JVM能无访问限制地通过类名直接调用,且不依赖对象实例或返回值,符合JVM规范对程序入口的强制要求。 Main方法是Java程序的入口点,它的标准声明形式为:public static void main(String[] args)。…

    2026年9月23日
    200
  • ElevenLabs的AI混合工具怎么用?生成逼真语音的详细操作教程

    ElevenLabs的AI混合工具核心在于VoiceLab功能,结合Voice Design与Instant Voice Cloning实现声音的精细调控与克隆。通过参数调整和高质量音频输入,用户可从零设计或克隆声音,并经反复迭代优化情感表达与自然度。其优势在于对声音细节的精准控制、克隆的真实感及灵…

    2026年9月23日
    100
  • 优化 Laravel Nova 动作响应消息的持久性与交互性

    本文探讨了 Laravel Nova 动作响应消息(toast 提示)持续时间过短的问题,尤其对于耗时较长的操作,默认提示难以满足用户反馈需求。我们提出并详细介绍了如何利用 Laravel Nova 4 的通知功能,实现持久化且可交互的用户通知,从而有效解决传统 toast 消息的局限性,提升用户体…

    2026年9月23日
    400
  • Reflection AI 完成 20 亿美元融资,打造“开放智能”

    美国人工智能初创企业 reflection ai 宣布成功募集 20 亿美元资金,其中英伟达领衔投资 8 亿美元,推动公司估值跃升至 80 亿美元。这家成立仅一年的科技新星,致力于打造“人人可及的前沿开放智能(open intelligence)”。 Reflection AI 表示,已集结一支由顶…

    2026年9月23日
    500
  • mysql安装完如何优化 mysql基础性能调优配置建议

    mysql安装完如何优化 mysql基础性能调优配置建议mysql安装完如何优化 mysql基础性能调优配置建议mysql安装完如何优化 mysql基础性能调优配置建议mysql安装完如何优化 mysql基础性能调优配置建议

    安装完 mysql 后需进行基础配置调优以提升性能,主要包括以下五点:1. 设置 innodb_buffer_pool_size 为物理内存的50%~80%,如16g内存可设为12g;2. 调整 max_connections 至合理并发数如500,并设置 wait_timeout 和 intera…

    2026年9月23日 用户投稿
    400
  • [272]如何把Python脚本导出为exe程序

    [272]如何把Python脚本导出为exe程序[272]如何把Python脚本导出为exe程序[272]如何把Python脚本导出为exe程序[272]如何把Python脚本导出为exe程序

    文章目录:一. PyInstaller简介二. PyInstaller在Windows下的安装三. 打包四. 小实例(Windows下) 附加:pyinstaller简介 PyInstaller能够将Python脚本打包成可执行程序,使得在没有Python环境的机器上也可以运行这些程序。 PyIns…

    2026年9月23日 用户投稿
    100
  • VSCode搭建Flutter开发环境(移动开发,完整配置指南)

    本文详细指导如何在VSCode中搭建高效的Flutter开发环境,包括安装JDK、配置JAVA_HOME、安装Android Studio并设置ANDROID_HOME、安装VSCode及Flutter和Dart插件、配置FLUTTER_HOME环境变量,通过flutter doctor检查并解决A…

    2026年9月23日
    100

发表回复

登录后才能评论
关注微信