利用Pandas和NumPy高效构建坐标DataFrame

利用pandas和numpy高效构建坐标dataframe

本文详细介绍了两种从现有DataFrame和索引列表构建新坐标DataFrame的方法。首先通过迭代字典构建,然后利用Pandas的`from_dict`方法实现。接着,重点阐述了如何运用NumPy的向量化操作,以更简洁、高效的方式直接从原始数据中提取并重构所需的X、Y坐标对。文章旨在提供清晰的教程,帮助用户根据数据规模和性能需求选择最合适的实现策略。

在数据处理和分析中,我们经常需要根据一系列索引或映射关系,从一个大型数据结构中提取特定数据点,并将其组织成新的结构。本教程将以一个具体场景为例,演示如何从一个包含节点信息(如X、Y坐标)的Pandas DataFrame中,根据一个由索引对组成的列表,高效地构建一个新的坐标DataFrame。最终目标是为路径规划或可视化准备数据。

场景描述

假设我们有一个名为 df 的DataFrame,它存储了多个节点的详细信息,包括 X 和 Y 坐标:

    Node       X      Y  Demand  Profit1      2  5.7735   0.00    40.0    16.02      3  2.8867   5.00    40.0    16.03      4 -2.8868   5.00    40.0    16.0... (其他节点数据)

同时,我们还有一个名为 tours 的列表,其中包含了一系列子列表,每个子列表是一个长度为2的整数对,例如 [0, 4]。这个整数对的第一个元素代表在 df 的 X 列中要查找的行索引(基于位置 iloc),第二个元素代表在 df 的 Y 列中要查找的行索引。需要注意的是,这两个索引可能指向 df 中的不同行。

我们的任务是创建一个新的DataFrame coord,它只有 X 和 Y 两列,每一行对应 tours 中的一个索引对所确定的 X, Y 坐标。

方法一:迭代构建与字典转换

这种方法通过遍历 tours 列表,逐一提取对应的 X 和 Y 值,然后将它们存储在一个字典中,最后将字典转换为DataFrame。

1. 初始化数据

首先,我们定义示例数据:

import pandas as pdimport numpy as nptours = [[0, 4], [0, 5], [0, 6], [1, 13], [2, 0], [3, 8], [4, 9], [5, 10],         [6, 7], [7, 1], [8, 2], [9, 3], [10, 11], [11, 14], [12, 0], [13, 12], [14, 0]]# 原始DataFrame,这里为了演示,使用简化版,实际数据可能更多data = {    'Node': [2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16],    'X': [5.7735, 2.8867, -2.8868, -5.7735, -2.8867, 2.8868, 8.6603, 0.0000, -8.6603, -8.6603, 0.0000, 8.6603, 5.3405, 3.3198, 6.4952],    'Y': [0.00, 5.00, 5.00, 0.00, -5.00, -5.00, 5.00, 10.00, 5.00, -5.00, -10.00, -5.00, 0.75, 4.25, -1.25],    'Demand': [40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 10.0, 10.0, 10.0],    'Profit': [16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 24.0, 24.0, 24.0, 24.0, 10.0, 10.0, 11.0]}df = pd.DataFrame(data, index=range(len(data['Node']))) # 确保索引从0开始,方便iloc使用print("原始DataFrame df:")print(df)

2. 迭代与字典填充

通过 for 循环遍历 tours 列表,使用 enumerate 获取当前迭代的索引 t,这可以作为新字典的键。对于每个 tour 元素,tour[0] 用于查找 df 的 X 列中的值,tour[1] 用于查找 df 的 Y 列中的值。这里使用 .iloc[] 进行基于位置的索引。

# 方法一:迭代构建与字典转换d = {}for t, tour in enumerate(tours):    xi = tour[0] # X坐标在df中的行索引    yi = tour[1] # Y坐标在df中的行索引    # 从df中根据iloc索引提取X和Y值    x_val = df["X"].iloc[xi]    y_val = df["Y"].iloc[yi]    d[t] = (x_val, y_val)print("n构建的字典 d:")print(d)

3. 字典转换为DataFrame

构建好字典 d 后,可以使用 pd.DataFrame.from_dict() 方法将其转换为DataFrame。关键在于设置 orient=’index’,这表示字典的键将成为DataFrame的索引,而值(这里是元组 (x_val, y_val))将作为行数据。同时,通过 columns=[‘X’, ‘Y’] 参数明确指定新DataFrame的列名。

coord_iterative = pd.DataFrame.from_dict(d, orient='index', columns=['X', 'Y'])print("n方法一生成的coord DataFrame:")print(coord_iterative)

这种方法直观易懂,代码逻辑清晰,适用于理解每一步操作的场景,尤其是在数据量不大时。

方法二:NumPy 向量化操作

对于大规模数据,使用NumPy的向量化操作通常能提供显著的性能提升和更简洁的代码。这种方法避免了显式的Python循环。

1. 准备NumPy数组

首先,将 tours 列表转换为NumPy数组,以便进行高效的切片和索引操作。同时,将 df 中需要提取的 X 和 Y 列也转换为NumPy数组,这可以减少Pandas Series的开销。

# 方法二:NumPy 向量化操作tours_np = np.array(tours)# 提取df中X和Y列的数据为NumPy数组# 注意:df的索引需要与tours中的索引匹配,这里df的索引是0-baseddf_xy_values = df[["X", "Y"]].to_numpy()print("ntours_np 数组:")print(tours_np)print("ndf_xy_values 数组 (X和Y列):")print(df_xy_values)

2. 向量化索引与DataFrame构建

NumPy允许使用数组作为索引。tours_np[:, 0] 提取了 tours 中所有子列表的第一个元素(即用于查找X的索引),tours_np[:, 1] 提取了所有子列表的第二个元素(即用于查找Y的索引)。

df_xy_values[tours_np[:, 0], 0]:tours_np[:, 0] 得到一个一维数组,包含了所有X坐标的行索引。df_xy_values[…] 使用这些行索引从 df_xy_values 中选择行。, 0 表示从这些选定的行中,进一步选择第0列(即原始的 X 值)。df_xy_values[tours_np[:, 1], 1]:tours_np[:, 1] 得到一个一维数组,包含了所有Y坐标的行索引。df_xy_values[…] 使用这些行索引从 df_xy_values 中选择行。, 1 表示从这些选定的行中,进一步选择第1列(即原始的 Y 值)。

最后,将这两个结果数组直接传入 pd.DataFrame 构造函数,并指定列名。

# 使用NumPy的高级索引直接提取X和Y值# tours_np[:, 0] 获取所有X的索引# tours_np[:, 1] 获取所有Y的索引# df_xy_values[行索引, 列索引]x_coords = df_xy_values[tours_np[:, 0], 0]y_coords = df_xy_values[tours_np[:, 1], 1]coord_vectorized = pd.DataFrame({"X": x_coords, "Y": y_coords})print("n方法二生成的coord DataFrame (NumPy 向量化):")print(coord_vectorized)

这种方法极其高效,尤其是在处理大量数据时,因为它充分利用了NumPy底层C语言实现的优化。代码也更为紧凑。

对比与选择

迭代构建与字典转换优点:逻辑清晰,易于理解和调试。缺点:对于非常大的数据集,Python的循环开销可能导致性能瓶颈NumPy 向量化操作优点:性能卓越,代码简洁,是处理大型数值数据集的首选方法。缺点:对于初学者来说,NumPy的高级索引可能需要一些时间来理解。

在实际应用中,如果数据量不大,两种方法都可以接受。但如果追求极致性能或处理GB级别的数据,强烈推荐使用NumPy向量化方法。

注意事项

索引类型:本教程中,df.iloc[] 和 NumPy 索引都依赖于基于位置的整数索引。请确保 tours 中的索引值与 df 的实际行位置匹配。如果 df 有自定义索引且您希望按标签查找,则需要使用 df.loc[] 并可能需要一个从标签到位置的映射。数据类型:确保从 df 中提取的 X 和 Y 列是数值类型,以便后续的计算或绘图。内存效率:NumPy向量化方法在某些情况下可能需要一次性分配较大的内存来存储中间结果,但通常其速度优势会弥补这一点。

总结

本教程展示了两种在Pandas和NumPy中,根据索引列表从现有DataFrame中提取并构建新坐标DataFrame的有效方法。迭代构建方法提供直观的实现,而NumPy向量化方法则提供了卓越的性能和代码简洁性。理解并掌握这两种技术,将有助于您更灵活、高效地处理数据,为后续的数据可视化(如绘制路径)奠定坚实的基础。根据您的具体需求和数据规模,选择最适合的方法,可以显著提高开发效率和程序性能。

以上就是利用Pandas和NumPy高效构建坐标DataFrame的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1379227.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
使用Selenium自动化处理动态下拉菜单与数据提取教程
上一篇 2025年12月14日 20:28:33
解决PyQt6 Qt_6.6 版本未找到错误:官方安装器的实践指南
下一篇 2025年12月14日 20:28:46

相关推荐

  • Matplotlib 地图中多类型图例的创建与优化

    Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化

    本教程旨在解决matplotlib地图可视化中,如何在一个图例中同时展示颜色块(如区域分类)和自定义标记(如特定兴趣点)的问题。文章详细介绍了当传统`patch`对象无法正确显示标记时,如何利用`matplotlib.lines.line2d`创建标记图例句柄,并将其与颜色块图例句柄合并,从而生成一…

    2026年5月10日 用户投稿
    100
  • 利用海象运算符简化条件赋值:Python教程与最佳实践

    本文旨在探讨Python中海象运算符(:=)在条件赋值场景下的应用。通过对比传统if/else语句与海象运算符,以及条件表达式,分析海象运算符在简化代码、提高可读性方面的优势与局限性。并通过具体示例,展示如何在列表推导式等场景下合理使用海象运算符,同时强调其潜在的复杂性及替代方案,帮助开发者更好地掌…

    2026年5月10日
    100
  • RichHandler与Rich Progress集成:解决显示冲突的教程

    在使用rich库的`richhandler`进行日志输出并同时使用`progress`组件时,可能会遇到显示错乱或溢出问题。这通常是由于为`richhandler`和`progress`分别创建了独立的`console`实例导致的。解决方案是确保日志处理器和进度条组件共享同一个`console`实例…

    2026年5月10日
    000
  • 使用 Jupyter Notebook 进行探索性数据分析

    Jupyter Notebook通过单元格实现代码与Markdown结合,支持数据导入(pandas)、清洗(fillna)、探索(matplotlib/seaborn可视化)、统计分析(describe/corr)和特征工程,便于记录与分享分析过程。 Jupyter Notebook 是进行探索性…

    2026年5月10日
    000
  • Python命令怎样使用profile分析脚本性能 Python命令性能分析的基础教程

    使用Python的cProfile模块分析脚本性能最直接的方式是通过命令行执行python -m cProfile your_script.py,它会输出每个函数的调用次数、总耗时、累积耗时等关键指标,帮助定位性能瓶颈;为进一步分析,可将结果保存为文件python -m cProfile -o ou…

    2026年5月10日
    000
  • Python递归函数追踪与性能考量:以序列打印为例

    本文深入探讨了Python中一种递归打印序列元素的方法,并着重演示了如何通过引入缩进参数来有效追踪递归函数的执行流程和参数变化。通过实际代码示例,文章揭示了递归调用可能带来的潜在性能开销,特别是对调用栈空间的需求,以及Python默认递归深度限制可能导致的错误,为读者提供了理解和优化递归算法的实用见…

    2026年5月10日
    000
  • python中zip函数详解 python多序列压缩zip函数应用场景

    zip函数的应用场景包括:1) 同时遍历多个序列,2) 合并多个列表的数据,3) 数据分析和科学计算中的元素运算,4) 处理csv文件,5) 性能优化。zip函数是一个强大的工具,能够简化代码并提高处理多个序列时的效率。 在Python中,zip函数是一个非常有用的工具,它能够将多个可迭代对象打包成…

    2026年5月10日
    000
  • Python中怎样使用pymongo?

    在python中使用pymongo可以轻松地与mongodb数据库进行交互。1)安装pymongo:pip install pymongo。2)连接到mongodb:from pymongo import mongoclient; client = mongoclient(‘mongod…

    2026年5月10日
    000
  • Python 函数参数类型:如何使用可变参数和动态参数?

    python 中的参数类型:关键词参数、可变参数和动态参数 在 python 中,函数的参数可以分为以下几种类型: 关键词参数(kw)**:这些参数具有名称,并且在调用函数时明确指定。可变参数(*args):这些参数没有名称,允许函数接受任意数量的位置参数。它们将被收集到一个元组中。动态参数(kwa…

    2026年5月10日
    000
  • JavaScript 高效判断页面所有复选框状态的技巧与实践

    本文旨在提供一套高效且专业的javascript方法,用于判断网页中所有复选框的选中状态。我们将探讨如何利用`array.some()`快速确定是否有未选中的复选框(进而判断是否全部选中),以及如何使用`array.filter()`统计选中和未选中的复选框数量。通过优化dom元素选择和数组操作,提…

    2026年5月10日
    000
  • pycharm解析器怎么添加 解析器添加详细流程

    在pycharm中添加解析器的步骤包括:1) 打开pycharm并进入设置,2) 选择project interpreter,3) 点击齿轮图标并选择add,4) 选择解析器类型并配置路径,5) 点击ok完成添加。添加解析器后,选择合适的类型和版本,配置环境变量,并利用解析器的功能提高开发效率。 在…

    2026年5月10日
    000
  • python中numpy的用法

    NumPy是Python中用于科学计算的强大库,它提供了以下功能:多维数组处理矩阵运算快速傅里叶变换(FFT)线性代数随机数生成 NumPy在Python中的强大功能 NumPy是Python中用于科学计算的一个强大且灵活的库。它提供了用于处理多维数组和矩阵的一组高效工具,是数据分析和机器学习项目的…

    2026年5月10日
    100
  • python如何捕获所有类型的异常_python try except捕获所有异常的方法

    答案:捕获所有异常推荐使用except Exception as e,可捕获常规错误并记录日志,避免影响程序正常退出;需拦截系统信号时才用except BaseException as e。 在Python中,要捕获所有类型的异常,最常见且推荐的方法是使用 except Exception as e…

    2026年5月10日
    000
  • python中f怎么用

    f-字符串是 Python 3.6 中引入的格式化字符串语法糖,提供了简洁且安全的方式来插入表达式和变量。f-字符串以字符串前缀 f 为标志,使用大括号包含表达式或变量。f-字符串支持条件表达式和格式规范符,提供了更大的灵活性、安全性、可读性和易维护性。 在 Python 中使用 f-字符串 f-字…

    2026年5月10日
    100
  • Golang如何优化日志写入性能_Golang日志写入与文件IO优化方法

    使用缓冲、异步写入、高性能日志库和优化IO策略提升Golang日志性能,推荐zap+异步缓冲+SSD组合以平衡实时性、可靠性与高并发需求。 在高并发场景下,Golang程序的日志写入可能成为性能瓶颈。频繁的文件IO操作不仅影响响应速度,还可能导致系统负载升高。要提升日志写入性能,不能只依赖简单的fm…

    2026年5月10日
    000
  • 怎么在手机上把XML文件转换为PDF?

    不可能直接在手机上用单一应用完成 XML 到 PDF 的转换。需要使用云端服务,通过两步走的方式实现:1. 在云端转换 XML 为 PDF,2. 在手机端访问或下载转换后的 PDF 文件。 怎么在手机上把XML文件转换为PDF? 这问题问得好,比直接问“怎么转换”有深度多了!因为它触及了移动端环境的…

    2026年5月10日
    000
  • ReCAPTCHA V3低分处理策略:结合V3与V2实现智能风险控制与用户验证

    本文旨在解决ReCAPTCHA V3在低分情况下无法直接触发验证码挑战的问题。我们将探讨如何通过巧妙地结合ReCAPTCHA V3的无感评分机制与ReCAPTCHA V2的交互式挑战,实现一套既能有效阻挡机器人流量,又能最大限度减少对合法用户干扰的智能验证系统。文章将详细阐述其实现原理、前端与后端集…

    2026年5月10日
    100
  • Python正则表达式:处理数字不同情况的替换

    本文旨在帮助读者理解和解决在使用Python正则表达式进行数字替换时遇到的问题。通过具体示例,详细解释了如何正确匹配和替换不同格式的数字,避免常见的匹配陷阱,并提供可直接使用的代码示例。掌握这些技巧,能有效提高处理文本数据的效率和准确性。 在使用Python的re模块进行字符串替换时,正则表达式的编…

    2026年5月10日
    000
  • python的tuple什么意思

    元组是Python中一种有序、不可变的序列数据结构。用于存储相关数据,例如坐标、个人信息或枚举值。创建方式:圆括号(),元素以逗号,分隔。访问元素:索引运算符;遍历元素:for循环。 什么是Python中的Tuple? Tuple,中文称为元组,是Python中一种有序、不可变的序列数据结构。 特点…

    2026年5月10日
    000
  • Python官网用户调查的参与方式_Python官网反馈提交详细教程

    答案是通过访问Python官网新闻页面、邮件邀请链接或GitHub仓库提交反馈。具体为:访问官网查找用户调查公告,或点击邮件中的专属链接参与,在GitHub的cpython仓库提交技术建议,并注意如实填写问卷与保护隐私。 如果您希望参与Python官网的用户调查并提交反馈,可以通过官方指定的渠道完成…

    2026年5月10日
    000

发表回复

登录后才能评论
关注微信