Python中基于文本匹配JSON数据并提取关联URL信息

Python中基于文本匹配JSON数据并提取关联URL信息

本教程详细介绍了如何使用Python处理JSON和文本文件,通过正则表达式从文本中提取特定模式的设备名称,并以此名称作为键,在JSON结构化数据中查找匹配项,最终提取并展示关联的URL信息。文章涵盖了文件读写、JSON解析、正则表达式应用及数据遍历等核心技术,旨在提供一个高效、实用的数据整合解决方案。

1. 概述

在日常数据处理中,我们经常会遇到需要从非结构化文本中提取关键信息,并将其与结构化数据(如json)进行关联匹配的场景。本教程将以一个具体示例,演示如何利用pythonjson模块进行json数据解析,re模块进行正则表达式匹配,从而实现从纯文本文件中识别设备名称,并在一个包含设备详细信息的json文件中找到对应的记录,最终提取出所需的url字段。

2. 准备工作

在开始编写代码之前,我们需要准备两个示例文件:一个JSON文件(test.json)和一个纯文本文件(test.txt)。

2.1 JSON文件 (test.json)

这个文件包含了多个设备的信息,每个设备都有一个唯一的名称和多个关联的URL。

{  "results": [    {      "url": "https://api.server.com/cables/100/",      "termination_a": {        "url": "https://api.server.com/interfaces/250/",        "device": {          "url": "https://api.server.com/devices/10/",          "display": "device-number1-2023-08 myname (1718)",          "name": "device-number1-2023-08 myname1"        }      }    },    {      "url": "https://api.server.com/cables/200/",      "termination_a": {        "url": "https://api.server.com/interfaces/160/",        "device": {          "url": "https://api.server.com/devices/22/",          "display": "device-number3-2023-08 myname (2245)",          "name": "device-number3-2023-08 myname3"        }      }    },    {      "url": "https://api.server.com/cables/300/",      "termination_a": {        "url": "https://api.server.com/interfaces/260/",        "device": {          "url": "https://api.server.com/devices/73/",          "display": "device-number8-2023-08 myname (3678)",          "name": "device-number8-2023-08 myname8"        }      }    }  ]}

2.2 文本文件 (test.txt)

这个文件包含了一些描述性文本,其中嵌入了我们想要匹配的设备名称。

this is device-number1-2023-08 myname1 and it is good.this is device-number8-2023-08 myname8 and it is.this is device-number3-2023-08 myname3 and it is not good.this is an unmatched-device-name and it is irrelevant.

3. 实现步骤与代码

我们将通过以下步骤实现目标:

立即学习“Python免费学习笔记(深入)”;

读取并解析JSON文件。读取文本文件内容。使用正则表达式从文本内容中提取所有设备名称。遍历JSON数据,将JSON中的设备名称与从文本中提取的名称进行比对。如果名称匹配,则打印出JSON中对应的URL信息。

3.1 示例代码

import jsonimport redef find_and_extract_urls(json_filepath, text_filepath):    """    从文本文件中提取设备名称,并在JSON文件中查找匹配的设备,    然后打印出关联的URL信息。    Args:        json_filepath (str): JSON文件的路径。        text_filepath (str): 文本文件的路径。    """    # 1. 读取并解析JSON文件    try:        with open(json_filepath, 'r', encoding='utf-8') as json_file:            json_data = json.load(json_file)    except FileNotFoundError:        print(f"错误: 未找到JSON文件 '{json_filepath}'")        return    except json.JSONDecodeError:        print(f"错误: JSON文件 '{json_filepath}' 格式不正确")        return    # 2. 读取文本文件内容    try:        with open(text_filepath, 'r', encoding='utf-8') as text_file:            text_content = text_file.read()    except FileNotFoundError:        print(f"错误: 未找到文本文件 '{text_filepath}'")        return    # 3. 使用正则表达式从文本内容中提取所有设备名称    # 正则表达式解释:    # (device-w+-d+-d+ w+): 捕获组,匹配 'device-' 开头,    # 接着是任意单词字符 (w+),然后是两个数字组 (d+),    # 最后是一个空格和任意单词字符 (w+)。    # 示例匹配: "device-number1-2023-08 myname1"    txt_device_names = re.findall(r"(device-w+-d+-d+ w+)", text_content)    # 将提取到的名称转换为集合,以便O(1)时间复杂度进行查找,提高效率    txt_device_names_set = set(txt_device_names)    print(f"从文本文件 '{text_filepath}' 中提取到的设备名称: {txt_device_names_set}n")    # 4. 遍历JSON数据,查找匹配项并提取URL    found_matches = False    for item in json_data.get("results", []): # 使用.get()处理'results'键可能不存在的情况        device_info = item.get("termination_a", {}).get("device", {})        json_device_name = device_info.get("name")        if json_device_name and json_device_name in txt_device_names_set:            found_matches = True            print(f"匹配成功!设备名称 --> {json_device_name}")            print(f"  根URL: {item.get('url', 'N/A')}")            print(f"  termination_a URL: {item.get('termination_a', {}).get('url', 'N/A')}")            # 如果需要,还可以打印其他URL,例如 termination_a device URL            # print(f"  termination_a device URL: {device_info.get('url', 'N/A')}")            print("-" * 30)    if not found_matches:        print("未找到任何匹配的设备名称。")# 调用函数执行匹配和提取if __name__ == "__main__":    json_file_path = 'test.json'    text_file_path = 'test.txt'    find_and_extract_urls(json_file_path, text_file_path)

3.2 代码解释

导入模块: json 用于处理JSON数据,re 用于正则表达式操作。文件读取:使用 with open(…) 语句确保文件在操作完成后被正确关闭,即使发生错误。json.load(json_file) 将JSON文件内容解析为Python字典。text_file.read() 读取整个文本文件的内容到一个字符串。增加了 try-except 块来处理 FileNotFoundError 和 json.JSONDecodeError,增强程序的健壮性。正则表达式匹配:re.findall(r”(device-w+-d+-d+ w+)”, text_content) 是核心。r”…” 表示这是一个原始字符串,避免反斜杠的转义问题。(device-w+-d+-d+ w+) 是正则表达式模式,用于捕获符合特定格式的设备名称。device-: 字面匹配 “device-“。w+: 匹配一个或多个字母、数字或下划线。d+: 匹配一个或多个数字。` `: 匹配一个空格。(): 捕获组,表示我们想要提取括号内的内容。txt_device_names 将是一个包含所有匹配到的设备名称的列表。将 txt_device_names 转换为 set (txt_device_names_set) 是一个重要的优化,它使得后续在循环中检查 json_device_name in txt_device_names_set 的操作具有平均 O(1) 的时间复杂度,而如果使用列表则为 O(n),在大数据量时性能差异显著。数据遍历与匹配:代码遍历 json_data[“results”] 列表中的每一个字典(代表一个设备)。通过 item.get(“termination_a”, {}).get(“device”, {}).get(“name”) 安全地访问嵌套字典中的设备名称。使用 .get() 方法可以在键不存在时返回默认值(这里是空字典或 None),避免 KeyError。if json_device_name and json_device_name in txt_device_names_set: 判断从JSON中获取的设备名称是否存在于从文本中提取的名称集合中。如果匹配成功,则打印出根URL (item[‘url’]) 和 termination_a 下的URL (item[‘termination_a’][‘url’])。同样,使用 .get() 方法安全地访问这些URL。

4. 运行结果

执行上述Python脚本,你将看到如下输出:

从文本文件 'test.txt' 中提取到的设备名称: {'device-number8-2023-08 myname8', 'device-number1-2023-08 myname1', 'device-number3-2023-08 myname3'}匹配成功!设备名称 --> device-number1-2023-08 myname1  根URL: https://api.server.com/cables/100/  termination_a URL: https://api.server.com/interfaces/250/------------------------------匹配成功!设备名称 --> device-number3-2023-08 myname3  根URL: https://api.server.com/cables/200/  termination_a URL: https://api.server.com/interfaces/160/------------------------------匹配成功!设备名称 --> device-number8-2023-08 myname8  根URL: https://api.server.com/cables/300/  termination_a URL: https://api.server.com/interfaces/260/------------------------------

5. 注意事项与扩展

正则表达式的准确性: 正则表达式是此解决方案的关键。确保你的模式能够准确捕获目标字符串,同时避免误匹配。如果设备名称的格式发生变化,你需要相应地调整正则表达式。性能优化: 对于非常大的文本文件,逐行读取并处理可能比一次性读取整个文件更节省内存。对于非常大的JSON文件,考虑使用流式解析(如 ijson 库)而不是一次性加载到内存。错误处理: 在实际应用中,应增加更完善的错误处理机制,例如处理文件不存在、JSON格式错误、数据结构不符合预期等情况。本教程已包含基本的 try-except 块。数据结构灵活性: 如果JSON数据的结构可能变化,访问嵌套字段时应更多地使用 dict.get() 方法,并提供默认值,以防止 KeyError。输出格式: 根据实际需求调整输出的格式和内容。你可以将提取到的信息存储到新的数据结构中,或者写入到新的文件里。

6. 总结

本教程展示了如何结合Python的文件I/O、JSON解析和正则表达式,高效地从非结构化文本中提取信息,并与结构化数据进行匹配和关联。这种方法在数据清洗、数据集成和自动化报告等多种场景下都非常实用。通过理解并灵活运用这些技术,你可以构建出强大的数据处理脚本,以

以上就是Python中基于文本匹配JSON数据并提取关联URL信息的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1376672.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 16:06:14
下一篇 2025年12月14日 16:06:31

相关推荐

  • Go语言中从切片高效删除元素:告别vector.Vector

    本教程详细讲解了在Go语言中从切片(slice)中删除元素的标准方法,强调应避免使用已废弃的vector.Vector类型。文章通过示例代码展示了利用append函数实现元素删除的技巧,包括按索引删除和按值删除(仅删除首个匹配项),并探讨了相关注意事项,旨在提供一种简洁、高效且符合Go语言习惯的解决…

    2025年12月15日
    000
  • Go与C互操作:在C非Go管理线程中安全调用Go回调函数

    本文探讨了在C语言中,如何从非Go运行时创建的线程安全地调用Go代码。由于Go运行时对外部线程的直接管理限制,传统方法难以实现。核心策略是利用C线程原语(如消息队列)与Go协程进行通信,由Go协程负责实际的回调执行,从而实现Go与C之间异步且安全的交互。文章将结合具体示例,详细阐述这种桥接技术。 引…

    2025年12月15日
    000
  • Go语言中从切片移除元素的最佳实践:告别container/vector

    本文深入探讨了在Go语言中从集合中移除元素的最佳实践。针对早期使用container/vector的场景,我们强调其已废弃,并强烈推荐使用Go内置切片(slice)作为替代。文章将详细介绍如何利用切片的高效操作,特别是append函数结合切片表达式,简洁且安全地移除指定元素,并提供代码示例与注意事项…

    2025年12月15日
    000
  • Golang中JWT令牌验证无效怎么处理

    golang中jwt验证失败的解决方法包括:1.确保生成和验证时密钥一致,建议使用环境变量或配置文件存储;2.确认签名算法一致,如hs256、rs256等;3.检查jwt是否过期,通过比较当前时间与exp声明;4.验证claims中的用户信息是否符合预期;5.处理时钟偏差,设置允许的时间差;6.使用…

    2025年12月15日 好文分享
    000
  • 如何用Golang实现端口扫描器 开发网络探测小工具

    %ignore_a_1%实现端口扫描器的核心在于利用其并发能力和网络库,通过并发尝试连接目标端口判断开放状态。1. 使用goroutine和sync.waitgroup管理并发任务,确保所有扫描完成后再退出;2. 引入工作池模式控制并发量,防止资源耗尽;3. 利用net.dialtimeout设置超…

    2025年12月15日 好文分享
    000
  • Golang协程泄露如何排查 避免资源浪费的方法

    协程泄露常见原因包括未关闭的channel、死锁、忘记调用done及阻塞操作;可通过监控协程数和pprof工具检测;避免方法包括设置退出机制、限制等待、合理使用waitgroup及控制协程上限;排查技巧有对比协程数量、分析堆栈、加日志及使用第三方库。具体来说:1. 协程泄露常因channel死锁、系…

    2025年12月15日 好文分享
    000
  • Golang如何实现云原生应用的优雅停机 讲解信号处理与资源释放

    优雅停机的关键在于及时响应退出信号并有序释放资源。1.通过os/signal包监听sigint/sigterm信号触发关闭流程;2.使用http.server.shutdown方法平滑关闭http服务,允许正在进行的请求完成;3.通过defer和sync.waitgroup确保数据库连接、消息队列、…

    2025年12月15日 好文分享
    000
  • Golang如何构建Markdown转换器 使用blackfriday库实践转换

    blackfriday库的核心功能是遵循commonmark规范将markdown转换为html并支持多种扩展,优势在于高性能、可定制性和广泛的功能集。1. 它支持表格、代码块高亮、任务列表等常用扩展,提升内容表现力;2. 作为go原生实现,处理速度快,适合实时渲染和大规模文档处理;3. 提供wit…

    2025年12月15日 好文分享
    000
  • Golang的sync.Cond使用场景是什么 详解条件变量唤醒机制

    sync.cond用于go并发编程中的协程协调,主要适用于共享状态驱动的多goroutine等待与唤醒场景。一、典型使用场景包括生产者-消费者模型中控制缓冲区读写等待,以及观察者模式中状态变化通知,如按钮点击事件。二、唤醒机制方面,提供signal()单个唤醒和broadcast()广播唤醒方法,调…

    2025年12月15日 好文分享
    000
  • Golang的并发编程有哪些常见陷阱 总结死锁和竞态条件的排查方法

    golang并发编程常见陷阱包括goroutine泄露、channel阻塞、竞态条件和死锁。1. goroutine泄露:因未正确退出机制导致goroutine永久阻塞,应使用context或select超时控制,并借助pprof分析排查;2. channel使用不当:无接收者或发送者的channe…

    2025年12月15日 好文分享
    000
  • Golang模块如何管理大型二进制资产 解析embed指令的资源嵌入方案

    go 1.16 引入的 embed 包提供了一种原生、简洁的方式将静态资源嵌入二进制文件。1. 使用 //go:embed 注释指令紧接变量声明,指定需嵌入的资源路径;2. 支持嵌入单个文件、整个目录或多个路径,如 //go:embed assets/*;3. 资源通过 embed.fs 类型访问,…

    2025年12月15日 好文分享
    000
  • Golang如何优化正则匹配 编译正则表达式与避免回溯技巧

    在golang中优化正则表达式匹配的核心在于:1. 提前编译并复用正则对象以避免重复编译带来的性能损耗;2. 理解re2引擎特性,编写更高效的模式。go的regexp包基于re2引擎,天然避免了灾难性回溯,保证线性时间复杂度,因此无需像传统nfa引擎那样担心指数级性能下降。然而,开发者仍需遵循最佳实…

    2025年12月15日 好文分享
    000
  • Go 语言中的头等函数:深入理解与实践

    本文深入探讨 Go 语言中的头等函数(First-Class Functions)特性。我们将详细介绍如何在 Go 中将函数作为参数传递给其他函数,以及如何从函数中返回函数。通过具体的代码示例,文章将展示如何定义函数类型、使用匿名函数,并阐述这些特性在构建灵活、可维护代码中的应用,帮助开发者更好地利…

    2025年12月15日
    000
  • Golang如何搭建GIS地理处理环境 集成PostGIS与GeoJSON支持

    golang是gis地理处理的理想选择,因其具备高效的并发模型、编译型语言的性能优势以及适合构建高性能后端服务的特点。1. go通过goroutine和channel机制轻松应对高并发场景,适合处理大量实时地理位置请求;2. go编译为单一静态二进制文件,部署便捷,适合容器化环境;3. go的强类型…

    2025年12月15日 好文分享
    000
  • Golang中如何减少指针逃逸对性能的影响 讲解栈分配优化技巧

    在go语言中,减少指针逃逸的核心方法包括:①明确变量作用域,将变量定义在函数内部;②优先使用值传递而非指针传递(尤其小型结构体);③利用sync.pool重用频繁创建的对象;④避免闭包捕获指针变量;⑤不将局部变量赋值给全局变量;⑥使用strings.builder优化字符串拼接;⑦预分配切片容量以减…

    2025年12月15日 好文分享
    000
  • Golang微服务中的RPC框架如何选择 Golang微服务RPC框架的对比与选型建议

    grpc适合多语言、标准化场景;thrift适合协议定制和兼容旧系统;kitex适合go生态高性能需求。grpc基于http/2和protobuf,跨语言支持好、标准化程度高、流式支持完善,适合需多语言交互及重视接口规范的场景。thrift协议灵活,支持多种传输协议和序列化格式,适合对协议定制有需求…

    2025年12月15日 好文分享
    000
  • Golang如何监控文件变化并实时处理 介绍fsnotify库的实际应用

    使用 fsnotify 监控文件系统变化的步骤如下:1. 安装库并导入;2. 创建 watcher 并添加监听路径;3. 遍历目录结构递归监听子目录;4. 在事件循环中判断事件类型并处理;5. 结合防抖等机制优化实际应用逻辑。 fsnotify 基于操作系统底层实现高效监控,支持 create、wr…

    2025年12月15日 好文分享
    000
  • Golang反射如何获取类型信息 掌握Golang反射类型操作

    在 golang 中,反射通过 reflect 包获取变量类型信息,核心函数是 typeof() 和 valueof()。1. 获取变量类型:使用 reflect.typeof() 可获取变量的具体类型,但接口变量会返回接口本身的类型;2. 查看结构体信息:通过 type.field() 获取字段名…

    2025年12月15日 好文分享
    000
  • Golang测试如何生成黄金文件 使用testdata目录管理测试资源

    黄金文件测试的核心在于将预期输出存入独立文件以提升可读性和维护性。1. 使用testdata目录存放黄金文件,遵循go测试约定。2. 测试时比较实际输出与黄金文件内容,不一致则报错。3. 提供-update标志用于更新黄金文件。4. 黄金文件简化复杂输出的断言并增强回归测试能力。5. 自动化生成与更…

    2025年12月15日 好文分享
    000
  • 如何避免Golang指针引起的循环引用 分析内存泄漏与weak引用模式

    go语言中循环引用可能导致内存泄漏,避免方法是理解引用关系并引入弱引用模式。1. 循环引用指对象间互相持有指针形成闭环,gc无法识别回收,常见于结构体、闭包等场景。2. 可通过接口或函数替代指针、手动断开引用来模拟弱引用,打破循环依赖。3. 常见陷阱包括闭包捕获变量、全局变量和缓存未清理,建议设ni…

    2025年12月15日 好文分享
    000

发表回复

登录后才能评论
关注微信