使用Pandas创建依赖于条件和相邻行值的列

使用pandas创建依赖于条件和相邻行值的列

本文详细介绍了如何在Pandas DataFrame中创建一列,其单元格值不仅取决于自身行的条件,还可能依赖于后续或之前的特定标记行。我们将利用Series.where进行条件性赋值,并结合Series.bfill或Series.ffill来高效地填充缺失值,从而解决复杂的数据依赖问题。

1. 问题背景与挑战

在数据处理中,我们经常需要根据特定条件创建新的数据列。一个常见的场景是,如果某一列的值满足某个条件,新列就取自当前行的另一列值;否则,新列的值需要从其上方(或下方)最近的满足条件的行中获取。这种“依赖于相邻行”的逻辑,尤其是在存在连续多行不满足条件时,如果采用传统的循环或简单的移位操作,往往效率低下且难以正确处理。

例如,考虑以下DataFrame:

import pandas as pddata = {    'Colonne 1': ['MTN_LI2', 'MTN_IRU', 'MTN_ACE', 'MTN_IME', 'RIPP7', 'CA_SOT', 'CA_OTI', 'CNW00', 'BSNTF', 'RIPNJ'],    'Dimension 1': ['Indicator', 'Indicator', 'Indicator', 'Indicator', 'Organisation', 'Indicator', 'Indicator', 'Organisation', 'Organisation', 'Organisation']}df = pd.DataFrame(data)print(df)

原始DataFrame df 如下所示:

  Colonne 1   Dimension 10  MTN_LI2      Indicator1  MTN_IRU      Indicator2  MTN_ACE      Indicator3  MTN_IME      Indicator4     RIPP7  Organisation5    CA_SOT     Indicator6    CA_OTI     Indicator7     CNW00  Organisation8     BSNTF  Organisation9     RIPNJ  Organisation

我们的目标是创建一列 new,其逻辑如下:

如果 Dimension 1 的值为 ‘Organisation’,则 new 列取当前行 Colonne 1 的值。如果 Dimension 1 的值不是 ‘Organisation’,则 new 列取其下方最近的、Dimension 1 为 ‘Organisation’ 的行的 Colonne 1 值。如果下方没有,则保持为空。

2. 核心解决方案:Series.where 与 Series.bfill/ffill

Pandas提供了Series.where()方法,它允许我们根据布尔条件选择性地保留或替换Series中的值。结合bfill()(backward fill,向后填充)或ffill()(forward fill,向前填充)方法,可以优雅地解决上述问题。

2.1 Series.where() 的应用

首先,我们使用 Series.where() 来实现条件赋值。where(cond, other=NaN) 的作用是:当 cond 为 True 时,保留原Series的值;当 cond 为 False 时,替换为 other(默认为 NaN)。

对于我们的问题,条件是 df[‘Dimension 1’].eq(‘Organisation’)。我们希望当条件为真时,取 df[‘Colonne 1’] 的值。

# 步骤1: 应用 Series.where()temp_series = df['Colonne 1'].where(df['Dimension 1'].eq('Organisation'))print(temp_series)

执行上述代码后,temp_series 将会是:

0        NaN1        NaN2        NaN3        NaN4      RIPP75        NaN6        NaN7      CNW008      BSNTF9      RIPNJName: Colonne 1, dtype: object

可以看到,所有 Dimension 1 不是 ‘Organisation’ 的行都被替换成了 NaN。

2.2 Series.bfill() 或 Series.ffill() 填充 NaN

现在,temp_series 中包含了我们需要的“标记”值(即’Organisation’对应的Colonne 1值)以及大量的 NaN。我们需要根据这些标记值来填充 NaN。

Series.bfill() (Backward Fill): 向后填充,使用下一个有效观测值填充 NaN。这正好符合我们的需求:“取其下方最近的、Dimension 1 为 ‘Organisation’ 的行的 Colonne 1 值”。Series.ffill() (Forward Fill): 向前填充,使用上一个有效观测值填充 NaN。这适用于“取其上方最近的”场景。

使用 bfill() 实现需求:

df['new'] = df['Colonne 1'].where(df['Dimension 1'].eq('Organisation')).bfill()print(df)

输出结果:

  Colonne 1   Dimension 1    new0  MTN_LI2      Indicator  RIPP71  MTN_IRU      Indicator  RIPP72  MTN_ACE      Indicator  RIPP73  MTN_IME      Indicator  RIPP74     RIPP7  Organisation  RIPP75    CA_SOT     Indicator  CNW006    CA_OTI     Indicator  CNW007     CNW00  Organisation  CNW008     BSNTF  Organisation  BSNTF9     RIPNJ  Organisation  RIPNJ

可以看到,RIPP7 成功地填充了其上方的 NaN,CNW00 填充了其上方的 NaN。这完美地解决了问题。

使用 ffill() 的替代方案(了解其不同行为):

如果你的需求是“如果 Dimension 1 的值不是 ‘Organisation’,则 new 列取其上方最近的、Dimension 1 为 ‘Organisation’ 的行的 Colonne 1 值”,那么应该使用 ffill():

df_ffill = df.copy() # 创建副本以展示不同结果df_ffill['new_ffill'] = df_ffill['Colonne 1'].where(df_ffill['Dimension 1'].eq('Organisation')).ffill()print(df_ffill)

输出结果:

  Colonne 1   Dimension 1 new_ffill0  MTN_LI2      Indicator       NaN1  MTN_IRU      Indicator       NaN2  MTN_ACE      Indicator       NaN3  MTN_IME      Indicator       NaN4     RIPP7  Organisation     RIPP75    CA_SOT     Indicator     RIPP76    CA_OTI     Indicator     RIPP77     CNW00  Organisation     CNW008     BSNTF  Organisation     BSNTF9     RIPNJ  Organisation     RIPNJ

注意,使用 ffill() 时,前四行(索引0-3)因为在它们上方没有 ‘Organisation’ 值,所以仍然是 NaN。这突出了 bfill() 和 ffill() 在填充方向上的根本区别

3. 注意事项与总结

性能优势: Series.where() 和 Series.bfill() / Series.ffill() 都是高度优化的Pandas操作,它们在C语言层面实现,因此对于大型DataFrame而言,比Python循环或自定义函数要快得多。初始 NaN 处理:当使用 bfill() 时,如果DataFrame的起始部分(或任何连续的 NaN 块)在它们下方找不到任何非 NaN 值来填充,这些 NaN 将会保留。当使用 ffill() 时,如果DataFrame的起始部分在它们上方找不到任何非 NaN 值来填充,这些 NaN 将会保留。在我们的 ffill() 示例中,前四行就是这种情况。灵活性: 这种 where().fill_method() 的模式非常灵活,可以应用于各种复杂的条件填充场景。你可以根据实际需求调整 where() 的条件以及选择 bfill() 或 ffill()。链式操作: Pandas的许多方法都支持链式操作,使得代码简洁易读。

通过结合 Series.where() 和 Series.bfill() 或 Series.ffill(),我们能够高效且优雅地解决Pandas中涉及条件性赋值和跨行依赖的复杂数据转换问题。这种方法是处理此类场景的推荐实践。

以上就是使用Pandas创建依赖于条件和相邻行值的列的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1367056.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 07:05:31
下一篇 2025年12月14日 07:05:45

相关推荐

发表回复

登录后才能评论
关注微信