Python Pandas:多列数据映射至单列并进行数据框合并的策略

python pandas:多列数据映射至单列并进行数据框合并的策略

本教程详细阐述了如何利用Pandas库将一个DataFrame中的特定多列数据(如昵称)映射到另一个目标单列(如主名称),同时对其他相关列(如性别)进行简化处理,并最终与另一个DataFrame进行高效合并。文章通过具体示例代码,演示了数据转换、列清理及合并的全过程,旨在帮助读者掌握处理异构DataFrame合并的实用技巧。

在数据分析和处理中,我们经常会遇到需要整合来自不同来源或具有不同结构的数据集。一个常见的场景是,某个数据集包含主标识符(如姓名),而另一个数据集可能包含辅助标识符(如昵称),且我们希望将这些辅助标识符也作为主标识符的一部分进行统一管理。本教程将通过一个具体的案例,演示如何使用Pandas库实现这种复杂的数据转换与合并。

场景描述

假设我们有两个DataFrame,df1 包含基本的个人信息,而 df2 则在 df1 的基础上增加了 nick_name 列。我们的目标是将 df2 中的 nick_name 作为新的 name 条目,并对 sex 列进行简化,最终与 df1 合并,形成一个统一的DataFrame。

原始数据框示例:

立即学习“Python免费学习笔记(深入)”;

首先,我们定义两个初始DataFrame:

import pandas as pd# 第一个DataFramedata1 = {    'name': ['smith row', 'sam smith', 'susan storm'],    'age': [26, 30, 25],    'sex': ['male', 'male', 'female']}df1 = pd.DataFrame(data1)print("df1:")print(df1)# 第二个DataFramedata2 = {    'name': ['smith row', 'sam smith', 'susan storm'],    'age': [26, 30, 25],    'sex': ['male', 'male', 'female'],    'nick_name': ['smity', 'sammy', 'suanny']}df2 = pd.DataFrame(data2)print("ndf2:")print(df2)

预期的输出结构:

我们希望最终的DataFrame包含 df1 的所有行,以及 df2 中 nick_name 转换为 name、sex 简化的新行。

        name   age     sex0  smith row  26.0    male1  sam smith  30.0    male2  susan storm  25.0  female3      smity   NaN       m4      sammy   NaN       m5     suanny   NaN       f

注意:age 列对于 nick_name 转换而来的行将是缺失值。

核心操作步骤

为了实现上述目标,我们需要对 df2 进行一系列的预处理,使其结构与 df1 兼容,然后才能进行合并。

1. 转换 df2 的数据结构

这是整个过程的关键部分,涉及到将 nick_name 列的值转移到 name 列,并对 sex 列进行简化,同时移除不再需要的列。

a. 映射昵称到主名称列

我们将 df2 中的 nick_name 列的值赋值给 name 列。这意味着原始的 name 列数据将被 nick_name 覆盖,为后续的合并做准备。

df2['name'] = df2['nick_name']

b. 简化性别信息

将 sex 列的值简化为首字母。例如,’male’ 变为 ‘m’,’female’ 变为 ‘f’。这通过Pandas的字符串访问器 .str[0] 实现。

df2['sex'] = df2['sex'].str[0]

c. 移除冗余列

在将 nick_name 映射到 name 之后,age 和 nick_name 列对于我们想要合并的新行来说是冗余的。因此,我们需要将它们从 df2 中删除。

df2 = df2.drop(columns=['age', 'nick_name'])

经过这些转换,df2 现在只包含 name 和 sex 列,且 name 列已更新为昵称,sex 列已简化。

2. 合并 DataFrames

在 df2 经过上述转换后,它的列结构(name, sex)与 df1 的目标结构(name, age, sex)在可合并的维度上是兼容的。我们可以使用 pd.concat() 函数将 df1 和转换后的 df2 垂直堆叠起来。

为了确保合并后的索引是连续的,我们使用 ignore_index=True 参数。

df_combined = pd.concat([df1, df2], ignore_index=True)

完整示例代码

将以上所有步骤整合到一起,形成一个完整的代码示例:

import pandas as pd# 1. 准备原始数据data1 = {    'name': ['smith row', 'sam smith', 'susan storm'],    'age': [26, 30, 25],    'sex': ['male', 'male', 'female']}df1 = pd.DataFrame(data1)data2 = {    'name': ['smith row', 'sam smith', 'susan storm'],    'age': [26, 30, 25],    'sex': ['male', 'male', 'female'],    'nick_name': ['smity', 'sammy', 'suanny']}df2 = pd.DataFrame(data2)print("--- 原始 df1 ---")print(df1)print("n--- 原始 df2 ---")print(df2)# 2. 转换 df2# 2.1 映射 'nick_name' 到 'name'df2['name'] = df2['nick_name']# 2.2 简化 'sex' 列df2['sex'] = df2['sex'].str[0]# 2.3 移除冗余列# 注意:这里为了清晰展示,使用了新的变量名 df2_transformed,# 但在实际操作中可以直接修改 df2。df2_transformed = df2.drop(columns=['age', 'nick_name']) print("n--- 转换后的 df2_transformed ---")print(df2_transformed)# 3. 合并 DataFramesdf_combined = pd.concat([df1, df2_transformed], ignore_index=True)print("n--- 最终合并结果 df_combined ---")print(df_combined)

输出结果:

--- 原始 df1 ---          name  age     sex0    smith row   26    male1    sam smith   30    male2  susan storm   25  female--- 原始 df2 ---          name  age     sex nick_name0    smith row   26    male     smity1    sam smith   30    male     sammy2  susan storm   25  female    suanny--- 转换后的 df2_transformed ---     name sex0   smity   m1   sammy   m2  suanny   f--- 最终合并结果 df_combined ---          name   age     sex0    smith row  26.0    male1    sam smith  30.0    male2  susan storm  25.0  female3        smity   NaN       m4        sammy   NaN       m5       suanny   NaN       f

注意事项

缺失值 (NaN) 的产生:在合并 df1 和转换后的 df2 时,由于 df2_transformed 不包含 age 列,Pandas 会自动在合并后的 df_combined 中为这些新行填充 NaN 值。这通常是预期行为,但根据具体需求,你可能需要进一步处理这些缺失值(例如,填充默认值或删除)。列名对齐:pd.concat 在垂直合并时会根据列名进行对齐。如果一个DataFrame中存在另一个DataFrame中没有的列,那么在没有该列的DataFrame对应的行中,该列的值将为 NaN。ignore_index=True:此参数非常重要,它会重置合并后DataFrame的索引,使其从0开始连续编号,避免了原始DataFrame索引冲突的问题。灵活性:本教程展示了一种特定的映射和转换场景。对于更复杂的动态映射或条件转换,可能需要结合 apply()、map() 或更复杂的条件逻辑。

总结

本教程提供了一种在Pandas中处理异构DataFrame合并的有效策略。通过对源DataFrame进行有针对性的列映射、数据简化和冗余列移除,我们成功地将其结构调整为与目标DataFrame兼容,并最终实现数据的无缝合并。这种方法在数据清洗、数据整合以及构建统一数据视图的场景中非常实用。掌握这些技巧将有助于你更高效地处理和分析复杂的数据集。

以上就是Python Pandas:多列数据映射至单列并进行数据框合并的策略的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1382524.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 23:59:50
下一篇 2025年12月15日 00:00:03

相关推荐

  • PyCharm 项目文件夹在 macOS 上消失的解决方案:文件权限配置指南

    本文旨在解决macos用户在使用pycharm时,项目文件夹从项目面板意外消失的问题。该问题并非pycharm软件缺陷或项目设置错误,而是由于macos系统对特定文件夹的访问权限限制所致。教程将详细指导用户如何通过macos系统设置调整pycharm的文件访问权限,从而彻底解决项目显示异常,确保开发…

    2025年12月14日
    000
  • Wagtail CMS页面限速指南:为什么推荐Web服务器和CDN层级防护

    本文深入探讨了wagtail cms页面访问限速的有效策略。针对wagtail页面的特性,我们分析了在应用层(如django `serve`方法)实施限速的局限性,指出其在资源消耗上的低效。文章重点推荐通过web服务器(如nginx)或外部cdn/waf服务(如cloudflare)进行限速,强调这…

    2025年12月14日
    000
  • 使用数据模型对象实现Python运算符重载与Pyright类型检查兼容性指南

    本文探讨了如何通过数据模型对象(如描述符)来优雅地实现Python中多个运算符的重载,从而避免重复的样板代码。针对Pyright类型检查器在处理这种模式时遇到的挑战,文章提供了一种简洁的解决方案:在描述符类中添加一个辅助类型注解`__call__: Apply`,以确保Pyright能够正确推断运算…

    2025年12月14日
    000
  • Python多进程通信中处理大容量数据的策略与实践

    本文深入探讨了python `multiprocessing.pipe` 在处理大容量数据时可能遇到的限制,包括平台相关的最大字节数限制和因内部缓冲区满而导致的发送端阻塞问题。文章通过示例代码演示了如何通过并发接收来避免阻塞,并介绍了 `multiprocessing.queue` 作为一种更健壮的…

    2025年12月14日
    000
  • 如何彻底从 Windows 系统中卸载 Python

    本教程详细指导如何在 Windows 操作系统中彻底卸载 Python,解决常见卸载后仍能检测到 Python 版本的问题。文章涵盖了通过控制面板卸载、手动删除残留文件和目录,以及关键的环境变量(尤其是 Path 变量)清理步骤,确保所有 Python 相关组件被完全移除,并提供验证方法。 引言 在…

    2025年12月14日
    000
  • Python浮点数大数字处理:深度解析精度限制与json.loads行为

    本文深入探讨python中处理大数字浮点数时出现的精度丢失和显示差异问题。核心在于python的float类型采用ieee-754标准进行二进制近似表示,导致特定十进制数无法精确存储。当通过json.loads解析大数字字符串时,若超出浮点数精度范围,末尾数字会被舍入。python的__repr__…

    2025年12月14日
    000
  • 深入理解 Python 3.12 type 关键字:类型别名的新范式与考量

    python 3.12 引入了 `type` 关键字,为类型别名提供了新的声明语法(pep 695)。它旨在改进泛型类型参数、实现类型别名的惰性求值,并更清晰地区分类型别名与普通变量。然而,新旧语法并非完全互换,例如在 `isinstance` 函数中的行为差异,这要求开发者在使用时需理解其设计意图…

    2025年12月14日
    000
  • Python中列表存储字典的正确姿势:避免引用陷阱

    本文旨在深入探讨python中将字典添加到列表时常见的引用陷阱。通过分析原始代码中因可变对象引用导致的意外行为,我们将介绍三种有效的解决方案:使用`dict.copy()`进行浅拷贝、直接创建新的字典实例,以及利用列表推导式简化代码,从而确保列表中的每个字典元素都是独立的,避免数据相互影响。 理解P…

    2025年12月14日
    000
  • 使用Python Turtle绘制科赫曲线与雪花:递归算法详解与实践

    本教程详细介绍了如何使用python的turtle模块绘制经典的科赫曲线及科赫雪花。文章着重讲解了递归算法在分形生成中的应用,特别是如何正确设置递归的基线条件和迭代步骤,以避免常见的程序错误,并提供了完整的示例代码和实现细节,帮助读者理解并掌握分形图形的绘制技巧。 1. 科赫曲线与递归分形简介 科赫…

    2025年12月14日
    000
  • Discord.py 按钮交互错误:回调函数参数处理与上下文传递指南

    本文旨在解决discord.py中`discord.ui.button`回调函数常见的“interaction error”,该错误通常由不正确的参数签名引起。我们将详细解释回调函数应有的参数结构,并提供两种有效方法来向按钮回调函数传递必要的上下文数据(如原始命令中的用户对象),从而确保交互的正确性…

    2025年12月14日
    000
  • NumPy 1D最近邻查找:告别循环,拥抱向量化广播机制

    本文深入探讨了在numpy中高效查找1d数组n个最近邻的方法。针对传统for循环的性能瓶颈,我们引入并详细解析了numpy的广播机制,展示了如何通过`arr[:, none]`技巧实现完全向量化的计算。这种方法不仅显著提升了处理速度,还使代码更加简洁、易读,是优化numpy数值计算的关键实践。 1.…

    2025年12月14日
    000
  • Python re.sub 高级应用:实现非贪婪多行文本替换与换行符处理

    本教程详细讲解如何使用 python 的 `re.sub` 函数进行高级文本替换,特别关注在多行文本中,如何通过非贪婪匹配精确捕获特定起始和结束标记之间的内容,并对其进行自定义修改,例如移除内部的换行符。文章将深入探讨非贪婪量词 `+?`、`re.dotall` 标志以及替换函数的使用,帮助读者高效…

    2025年12月14日
    000
  • 深入理解A算法:单队列实现的巧妙之处

    本文深入探讨a*路径搜索算法的一种单队列实现方式。许多a*伪代码会同时使用open列表(优先队列)和closed列表(集合),而该实现仅依赖一个优先队列。我们将解析其工作原理,揭示如何通过巧妙地利用节点的分数(g_score和f_score)以及优先队列的特性,隐式地管理已访问节点的状态,从而无需显…

    2025年12月14日
    000
  • 从特定父级Div中高效提取Anchor标签的Href属性

    本教程旨在指导用户如何使用python和html解析库(如beautifulsoup)从复杂的html结构中,高效且准确地提取特定父级`div`元素内部的所有“标签的`href`属性。文章将通过示例代码详细解释如何定位目标父元素、遍历其内部的链接标签,并安全地获取所需的`href`属性,…

    2025年12月14日 好文分享
    000
  • 使用Pandas高效进行DataFrame多列映射与合并

    本文详细介绍了如何使用Pandas库将多个DataFrame的列数据进行转换、映射和合并,以实现复杂的数据重构需求。教程涵盖了列赋值、字符串操作、列删除以及DataFrame垂直拼接等核心操作,旨在帮助读者高效地整合不同结构的数据,并处理合并过程中可能出现的缺失值。 在数据分析和处理过程中,我们经常…

    2025年12月14日
    000
  • Python中列表内字典操作:深度理解引用与拷贝

    本文深入探讨了Python中将字典添加到列表时常见的引用陷阱。通过实例代码,我们将解析为何直接赋值会导致所有列表元素指向同一字典,并提供三种解决方案:使用`dict.copy()`进行浅拷贝、在循环中直接创建新字典,以及利用列表推导式实现更简洁高效的代码,帮助开发者避免此类常见错误。 在Python…

    2025年12月14日
    000
  • 动态修改Matplotlib图表主题的教程

    在使用matplotlib进行绘图时,`plt.style.use()`方法主要用于初始化新的图表或子图的样式。对于已渲染的图表,在运行时动态切换主题,简单地再次调用`plt.style.use()`并不会立即生效。本文将深入探讨这一限制,并提供一种通过直接修改matplotlib `figure`…

    2025年12月14日
    000
  • Python面向对象设计:如何优雅地处理类中的可变子属性集合

    针对python类中需要管理可变数量子属性(如多校区站点配置)的问题,本文提出了一种面向对象的解决方案。通过将子属性抽象为独立的类,并在主类中利用列表存储这些子属性实例,实现了灵活且可扩展的结构,避免了硬编码,提升了代码的可维护性。 在构建复杂的应用程序时,我们经常会遇到一个挑战:一个主实体(例如“…

    2025年12月14日
    000
  • 在Python Pandas DataFrame中高效执行列间加减运算的教程

    本教程旨在详细介绍如何在pandas dataframe中高效地对多个目标列执行复杂的列间加减运算。我们将探讨两种主要的实现方法:利用`dataframe.eval()`进行多行表达式计算,以及通过链式调用`add()`和`sub()`等矢量化方法。文章将通过具体示例代码,阐述这些方法的应用场景、优…

    2025年12月14日
    000
  • Python包管理:使用Pip和虚拟环境替代Conda的安装方法

    本文详细阐述了如何在不安装Conda的情况下,利用Python的`pip`包管理器和虚拟环境来管理和安装项目依赖。通过创建独立的虚拟环境、激活环境并从`requirements.txt`文件安装Python包,提供了一种高效且标准化的替代方案,适用于主要依赖Python库的项目,确保依赖隔离与项目可…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信