利用Pandas与NumPy高效构建坐标DataFrame

利用pandas与numpy高效构建坐标dataframe

本文旨在指导读者如何基于现有DataFrame和索引列表,高效地构建一个新的坐标DataFrame。我们将探讨两种主要方法:基于循环和字典的迭代方法,以及利用NumPy高级索引和向量化操作的更优方法,旨在提高数据处理的效率和代码简洁性,为后续数据可视化(如路线绘制)奠定基础。

在数据分析和处理中,我们经常需要从一个大型数据集中根据特定的索引或规则提取子集,并将其组织成新的结构。本教程将以一个具体场景为例,演示如何从一个包含节点信息的Pandas DataFrame中,根据一个索引列表(tours)提取对应的X和Y坐标,并构建一个新的DataFrame。

场景描述

假设我们拥有以下两个核心数据结构:

一个名为 tours 的列表,其中每个子列表包含两个整数,分别代表X坐标和Y坐标在原始DataFrame df 中的行索引。例如,[0, 4] 表示从 df 的第0行获取X值,从 df 的第4行获取Y值。

tours = [[0, 4], [0, 5], [0, 6], [1, 13], [2, 0], [3, 8], [4, 9], [5, 10],         [6, 7], [7, 1], [8, 2], [9, 3], [10, 11], [11, 14], [12, 0], [13, 12], [14, 0]]

一个名为 df 的Pandas DataFrame,包含了多个节点的详细信息,其中包括 X 和 Y 坐标。

import pandas as pdimport numpy as npdata = {    'Node': [2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16],    'X': [5.7735, 2.8867, -2.8868, -5.7735, -2.8867, 2.8868, 8.6603, 0.0000, -8.6603, -8.6603, 0.0000, 8.6603, 5.3405, 3.3198, 6.4952],    'Y': [0.00, 5.00, 5.00, 0.00, -5.00, -5.00, 5.00, 10.00, 5.00, -5.00, -10.00, -5.00, 0.75, 4.25, -1.25],    'Demand': [40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 10.0, 10.0, 10.0],    'Profit': [16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 24.0, 24.0, 24.0, 24.0, 10.0, 10.0, 11.0]}df = pd.DataFrame(data)# 调整DataFrame的索引以匹配问题描述中的iloc行为# 原始df的索引是1-15,但iloc[0]会访问到Node=2的行。# 为了使iloc[0]访问到Node=2的行,我们需要确保df的默认整数索引是0开始的。# 示例数据中已经确保了这一点。

我们的目标是创建一个新的DataFrame coord,其中包含 tours 中每个索引对对应的 X 和 Y 坐标。

方法一:迭代与字典转换

这种方法通过循环遍历 tours 列表,在每次迭代中根据索引从 df 中提取 X 和 Y 值,并将这些值存储在一个字典中。最后,将字典转换为DataFrame。

实现步骤:

初始化一个空字典 d。遍历 tours 列表,使用 enumerate 获取当前元素的索引 t 和子列表 tour。从 tour 中提取 xi (X的索引) 和 yi (Y的索引)。使用 df[“X”].iloc[xi] 和 df[“Y”].iloc[yi] 从 df 中获取对应的X和Y值。将获取到的 (X, Y) 对作为值,t 作为键存入字典 d。使用 pd.DataFrame.from_dict() 方法,指定 orient=’index’ 和 columns=[‘X’, ‘Y’] 将字典转换为DataFrame。orient=’index’ 确保字典的键成为DataFrame的索引,值成为行数据。

示例代码:

d = {}for t, tour in enumerate(tours):    xi = tour[0]    yi = tour[1]    # 注意:df.iloc[index] 是基于位置的索引,与问题描述中的预期行为一致    d[t] = df["X"].iloc[xi], df["Y"].iloc[yi]coord_iterative = pd.DataFrame.from_dict(d, orient='index', columns=['X', 'Y'])print("--- 方法一:迭代与字典转换 ---")print(coord_iterative)

优点:

逻辑清晰,易于理解,尤其适合初学者。对于小型数据集,性能影响不明显。

缺点:

涉及显式循环,对于大型数据集效率较低。Python的循环通常比向量化操作慢。

方法二:向量化操作与NumPy高级索引

为了提高效率,特别是处理大数据时,推荐使用Pandas和NumPy提供的向量化操作。这种方法避免了显式Python循环,转而利用底层C实现的优化操作。

实现步骤:

将 tours 列表转换为NumPy数组。这使得我们可以利用NumPy的强大索引功能。从原始DataFrame df 中提取 X 和 Y 列,并将其转换为NumPy数组 arr。这样做可以避免在循环中反复进行Pandas Series的索引操作。利用NumPy的高级索引功能,一步到位地从 arr 中提取所有需要的X和Y值。tours[:, 0] 提取 tours 数组中所有子列表的第一个元素(即X的索引列表)。tours[:, 1] 提取 tours 数组中所有子列表的第二个元素(即Y的索引列表)。arr[tours[:, 0], 0] 表示使用X的索引列表去 arr 的第0列(即X值)中查找对应的值。arr[tours[:, 1], 1] 表示使用Y的索引列表去 arr 的第1列(即Y值)中查找对应的值。将这些提取出的X和Y值直接构建成一个新的Pandas DataFrame。

示例代码:

# 将tours转换为NumPy数组,方便进行高级索引tours_np = np.array(tours)# 提取df的X和Y列并转换为NumPy数组# 注意:这里假设df的索引是0-based的整数索引,与iloc行为一致arr = df[["X", "Y"]].to_numpy()# 使用NumPy高级索引直接获取X和Y坐标# tours_np[:, 0] 得到所有X的索引# tours_np[:, 1] 得到所有Y的索引# arr[row_indices, column_index]# arr[tours_np[:, 0], 0] 从arr的第0列(X值)中,按照tours_np[:, 0]提供的行索引提取值# arr[tours_np[:, 1], 1] 从arr的第1列(Y值)中,按照tours_np[:, 1]提供的行索引提取值coord_vectorized = pd.DataFrame({    "X": arr[tours_np[:, 0], 0],    "Y": arr[tours_np[:, 1], 1]})print("n--- 方法二:向量化操作与NumPy高级索引 ---")print(coord_vectorized)

优点:

高效性: 充分利用了NumPy的底层优化,执行速度远快于Python循环,尤其适用于大数据集。简洁性: 代码更为紧凑和优雅。Pandas/NumPy生态系统优势: 与Pandas和NumPy的数据结构无缝集成。

缺点:

对于初学者来说,NumPy的高级索引可能需要一些时间来理解。

性能比较与选择

在实际应用中,对于数据量较小(例如几百到几千行)的场景,两种方法在性能上的差异可能不明显,此时选择可读性更好的迭代方法也无妨。然而,当处理的数据量达到数万、数十万甚至更高时,向量化操作的性能优势将变得极其显著,能够大幅缩短程序运行时间。

因此,推荐在大多数情况下优先使用方法二(向量化操作与NumPy高级索引),因为它代表了Pandas和NumPy处理数据的最佳实践。

总结与注意事项

通过本教程,我们学习了两种从现有DataFrame中提取指定坐标并构建新DataFrame的方法。

迭代方法:通过循环和字典辅助构建,易于理解,但效率相对较低。向量化方法:利用NumPy的高级索引,代码简洁且性能卓越,是处理大量数据的首选。

在实践中,选择哪种方法取决于具体的数据规模和对性能的要求。对于最终目标是绘制路线图的场景,生成的 coord DataFrame将直接作为绘图库(如Matplotlib, Seaborn, Plotly等)的输入,其准确性和高效生成是至关重要的。

注意事项:

索引范围:确保 tours 列表中的索引值不会超出 df DataFrame的有效行索引范围,否则会导致 IndexError。数据类型:在将数据转换为NumPy数组时,确保数据类型兼容,以避免潜在的类型转换问题。可读性与性能平衡:虽然向量化操作更高效,但在某些极端复杂的逻辑中,如果过度追求单行代码而牺牲可读性,可能会增加维护成本。始终在性能和代码可读性之间找到最佳平衡点。

以上就是利用Pandas与NumPy高效构建坐标DataFrame的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1378967.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 20:15:29
下一篇 2025年12月14日 20:15:37

相关推荐

  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 使用 Mask 导入本地图片时,如何解决跨域问题?

    跨域疑难:如何解决 mask 引入本地图片产生的跨域问题? 在使用 mask 导入本地图片时,你可能会遇到令人沮丧的跨域错误。为什么会出现跨域问题呢?让我们深入了解一下: mask 框架假设你以 http(s) 协议加载你的 html 文件,而当使用 file:// 协议打开本地文件时,就会产生跨域…

    2025年12月24日
    200
  • 什么是功能类优先的 CSS 框架?

    理解功能类优先 tailwind css 是一款功能类优先的 css 框架,用户可以通过组合功能类轻松构建设计。为了理解功能类优先,我们首先要区分语义类和功能类这两种 css 类名命名方式。 语义类 以前比较常见的 css 命名方式是根据页面中模块的功能来命名。例如: 立即学习“前端免费学习笔记(深…

    2025年12月24日
    000
  • 正则表达式在文本验证中的常见问题有哪些?

    正则表达式助力文本输入验证 在文本输入框的验证中,经常遇到需要限定输入内容的情况。例如,输入框只能输入整数,第一位可以为负号。对于不会使用正则表达式的人来说,这可能是个难题。下面我们将提供三种正则表达式,分别满足不同的验证要求。 1. 可选负号,任意数量数字 如果输入框中允许第一位为负号,后面可输入…

    2025年12月24日
    000
  • SCSS – 增强您的 CSS 工作流程

    在本文中,我们将探索 scss (sassy css),这是一个 css 预处理器,它通过允许变量、嵌套规则、mixins、函数等来扩展 css 的功能。 scss 使 css 的编写和维护变得更加容易,尤其是对于大型项目。 1.什么是scss? scss 是 sass(syntropically …

    2025年12月24日
    000
  • 为什么多年的经验让我选择全栈而不是平均栈

    在全栈和平均栈开发方面工作了 6 年多,我可以告诉您,虽然这两种方法都是流行且有效的方法,但它们满足不同的需求,并且有自己的优点和缺点。这两个堆栈都可以帮助您创建 Web 应用程序,但它们的实现方式却截然不同。如果您在两者之间难以选择,我希望我在两者之间的经验能给您一些有用的见解。 在这篇文章中,我…

    2025年12月24日
    000
  • 姜戈顺风

    本教程演示如何在新项目中从头开始配置 django 和 tailwindcss。 django 设置 创建一个名为 .venv 的新虚拟环境。 # windows$ python -m venv .venv$ .venvscriptsactivate.ps1(.venv) $# macos/linu…

    2025年12月24日
    000
  • css3选择器优化技巧

    CSS3 选择器优化技巧可提升网页性能:减少选择器层级,提高浏览器解析效率。避免通配符选择器,减少性能损耗。优先使用 ID 选择器,快速定位目标元素。用类选择器代替标签选择器,精确匹配。使用属性选择器,增强匹配精度。巧用伪类和伪元素,提升性能。组合多个选择器,简化代码。利用 CSS 预处理器,增强代…

    2025年12月24日
    300
  • 花 $o 学习这些编程语言或免费

    → Python → JavaScript → Java → C# → 红宝石 → 斯威夫特 → 科特林 → C++ → PHP → 出发 → R → 打字稿 []https://x.com/e_opore/status/1811567830594388315?t=_j4nncuiy2wfbm7ic…

    2025年12月24日
    000
  • css代码规范有哪些

    CSS 代码规范对于保持一致性、可读性和可维护性至关重要,常见的规范包括:命名约定:使用小写字母和短划线,命名特定且描述性。缩进和对齐:按特定规则缩进、对齐选择器、声明和值。属性和值顺序:遵循特定顺序排列属性和值。注释:解释复杂代码,并使用正确的语法。分号:每个声明后添加分号。大括号:左大括号前换行…

    2025年12月24日
    200
  • html5怎么导视频_html5用video标签导出或Canvas转DataURL获视频【导出】

    HTML5无法直接导出video标签内容,需借助Canvas捕获帧并结合MediaRecorder API、FFmpeg.wasm或服务端协同实现。MediaRecorder适用于WebM格式前端录制;FFmpeg.wasm支持MP4等格式及精细编码控制;服务端方案适合高负载场景。 如果您希望在网页…

    2025年12月23日
    300
  • 如何查看编写的html_查看自己编写的HTML文件效果【效果】

    要查看HTML文件的浏览器渲染效果,需确保文件以.html为扩展名保存、用浏览器直接打开、利用开发者工具调试、必要时启用本地HTTP服务器、或使用编辑器实时预览插件。 如果您编写了HTML代码,但无法直观看到其在浏览器中的实际渲染效果,则可能是由于文件未正确保存、未使用浏览器打开或文件扩展名设置错误…

    2025年12月23日
    400
  • node.js怎么运行html_node.js运行html步骤【指南】

    答案是使用Node.js内置http模块、Express框架或第三方工具serve可快速搭建服务器预览HTML文件。首先通过http模块创建服务器并读取index.html返回响应;其次用Express初始化项目并配置静态文件服务;最后利用serve工具全局安装后一键启动服务器,三种方式均在浏览器访…

    2025年12月23日
    300
  • html5怎么打包运行_HT5用Webpack或Gulp打包后浏览器打开运行【打包】

    应通过 HTTP 服务运行打包后的 HTML5 页面,而非双击打开:一、Webpack 配 webpack-dev-server 启动本地服务;二、Gulp 配 BrowserSync 提供实时重载;三、用 Python/Node.js 轻量 HTTP 工具托管 dist 目录;四、仅当必须双击运行…

    2025年12月23日
    000
  • html5文件运行不出来怎么回事_析html5文件运行失败原因【解析】

    首先检查文件扩展名和编码格式,确保为.html且使用UTF-8编码;接着验证HTML5结构完整性,包含及正确闭合的标签;然后排查外部资源路径是否正确,利用开发者工具查看404错误;排除浏览器兼容性问题,优先在现代浏览器中测试并避免未广泛支持的API;检查JavaScript语法错误与执行顺序,确保脚…

    2025年12月23日
    000
  • html5如何建立站点_HTML5站点建立步骤与网站搭建技巧【指南】

    HTML5网站搭建需五步:一、建my-website目录及css/js/images子目录,含index.html;二、写标准HTML5骨架,含DOCTYPE、lang、meta、语义化标签;三、外链CSS与defer/async脚本;四、用http-server启本地服务;五、用email/num…

    2025年12月23日
    000
  • html5怎么写app_HTML5用PWA或WebView打包成类APP的网页应用【编写】

    可通过PWA、WebView(Android/iOS)、Cordova或Capacitor五种方式将HTML5网页转为类原生APP:PWA依赖Manifest与Service Worker实现安装与离线;WebView分别在Android Studio和Xcode中加载本地资源;Cordova与Ca…

    2025年12月23日
    000
  • html5怎么插入文档_HT5用object或iframe嵌入PDF/Word文档显示【插入】

    可在HTML5中用iframe或object标签嵌入PDF,需设宽高及可访问路径;Word文档需借OneDrive等第三方服务代理渲染;须处理跨域限制并提供下载降级方案。 如果您希望在HTML5页面中嵌入PDF或Word文档并直接显示,可以使用或标签实现。以下是几种可行的嵌入方法: 一、使用ifra…

    2025年12月23日
    200
  • 如何操作html_操作HTML元素的常用方法【常用】

    必须掌握操作HTML元素的五种核心方法:一、通过ID精准获取并修改单个元素;二、通过类名批量操作多个元素;三、用querySelector系列灵活选择任意CSS匹配元素;四、动态创建并插入新元素;五、安全移除或替换现有元素。 如果您需要动态修改网页内容或响应用户交互,则必须掌握操作HTML元素的核心…

    2025年12月23日
    200
  • html5如何插入txt纯文本_html5txt文本嵌入与编码设置【实操】

    可通过iframe、fetch+pre、object标签或服务端预处理四种方式在HTML5中显示外部TXT文件,需重点处理字符编码(如UTF-8声明、BOM、响应头)并防范XSS风险。 如果您希望在HTML5页面中显示外部TXT纯文本文件的内容,浏览器默认不支持直接嵌入TXT文件为可渲染内容,必须通…

    2025年12月23日
    000

发表回复

登录后才能评论
关注微信