使用 ChainMap 实现 Python 字典的深度合并

使用 chainmap 实现 python 字典的深度合并

本文深入探讨了如何利用 Python 的 collections.ChainMap 实现复杂字典的深度合并。针对 ChainMap 默认的浅层合并行为无法满足嵌套字典合并的需求,文章提出了一种自定义 DeepChainMap 类的方法。通过重写 __getitem__ 方法,该方案能够递归地合并具有相同键的嵌套字典,从而实现真正的深度合并,同时保留 ChainMap 的惰性查找特性。

理解 ChainMap 的基本行为与局限性

collections.ChainMap 是 Python 标准库中一个非常实用的工具,它将多个字典或映射组合成一个单一的、可更新的视图。当查找一个键时,ChainMap 会按照传入字典的顺序依次查找,返回第一个找到的键对应的值。这在需要按优先级合并配置或环境变量等场景下非常有用。

考虑以下两个字典 a 和 b:

a = {'123': {'player': 1,             'opponent': 2},     '18': {'player': 10,            'opponent': 12}    }b = {'123': {'winner': 1},     '180': {'winner': 2}    }

如果直接使用 ChainMap(a, b) 并尝试将其转换为字典,我们会发现 ChainMap 默认的行为是浅层合并。对于相同的顶级键,它会优先使用第一个字典中的值,而不会尝试合并嵌套的字典:

from collections import ChainMapprint(dict(ChainMap(a, b)))# 输出: {'123': {'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

可以看到,键 ‘123’ 的值直接取自 a,b 中 ‘123’ 下的 {‘winner’: 1} 被完全忽略了。这与我们期望的深度合并结果,即 ‘123’ 下的字典应合并为 {‘player’: 1, ‘opponent’: 2, ‘winner’: 1},相去甚远。

立即学习“Python免费学习笔记(深入)”;

实现深度合并:自定义 DeepChainMap

要实现对嵌套字典的深度合并,我们需要扩展 ChainMap 的行为,使其在遇到嵌套字典时能够递归地进行合并。这可以通过重写 DeepChainMap 类的 __getitem__ 方法来实现。当 ChainMap 尝试获取一个键的值时,如果该值本身是一个字典,我们则递归地为这个嵌套字典创建另一个 DeepChainMap 实例,从而实现深度合并。

以下是 DeepChainMap 的实现:

from collections import ChainMapclass DeepChainMap(ChainMap):    """    ChainMap 的变体,支持对嵌套字典的深度合并。    当获取一个键的值时,如果该值是字典,则递归地合并所有映射中该键对应的字典。    """    def __getitem__(self, key):        # 收集所有映射中存在给定键的值        values = (mapping[key] for mapping in self.maps if key in mapping)        try:            # 获取第一个找到的值            first = next(values)        except StopIteration:            # 如果所有映射中都不存在该键,则调用父类的 __missing__ 方法(通常会抛出 KeyError)            return self.__missing__(key)        # 如果第一个值是字典,则递归地为所有找到的字典值创建 DeepChainMap        if isinstance(first, dict):            # 注意:这里将 first 放在第一个,以确保其内容优先,            # 并且后续的 values 会按 ChainMap 的顺序进行合并            return self.__class__(first, *values)        # 如果不是字典,直接返回第一个找到的值        return first    def __repr__(self):        # 为了更清晰的表示,将 DeepChainMap 转换为普通字典的字符串表示        return repr(dict(self))

__getitem__ 方法解析

values = (mapping[key] for mapping in self.maps if key in mapping): 这一行是核心。它遍历 DeepChainMap 内部存储的所有映射(即传入的原始字典),并生成一个迭代器,其中包含所有找到的、与给定 key 关联的值。这样,即使 key 在多个字典中都存在,我们也能获取到它们所有的值。first = next(values): 尝试从 values 迭代器中获取第一个值。这个值是根据 ChainMap 的查找顺序(即传入字典的顺序)找到的第一个值。except StopIteration: return self.__missing__(key): 如果 values 迭代器为空(即在任何映射中都没有找到 key),则抛出 StopIteration 异常。我们捕获这个异常并调用 self.__missing__(key),这通常会导致 KeyError,符合字典找不到键的行为。*`if isinstance(first, dict): return self.class(first, values)**: 这是实现深度合并的关键。如果first值是一个字典,这意味着我们遇到了一个需要深度合并的嵌套结构。此时,我们递归地创建一个新的DeepChainMap实例。这个新的DeepChainMap将以first字典作为其第一个映射,然后将values迭代器中剩余的所有字典(即在其他映射中找到的、与相同key关联的字典)作为后续映射传入。这样,新的DeepChainMap` 会负责合并这些嵌套字典。return first: 如果 first 值不是字典(例如,它是字符串、数字、列表等),则不需要深度合并,直接返回 first 即可。

__repr__ 方法解析

__repr__ 方法被重写是为了提供一个更友好的字符串表示。默认情况下,ChainMap 的 repr 会显示其内部的 maps 列表,这对于调试和理解 DeepChainMap 的最终状态不太直观。通过将其转换为 dict(self) 再进行 repr,我们可以直接看到合并后的字典结构,就像一个普通的字典一样。

使用 DeepChainMap 进行深度合并

现在,我们可以使用自定义的 DeepChainMap 来实现我们最初的目标:

# 重新定义原始字典a = {'123': {'player': 1,             'opponent': 2},     '18': {'player': 10,            'opponent': 12}    }b = {'123': {'winner': 1},     '180': {'winner': 2}    }# 使用 DeepChainMap 进行合并merged_map = DeepChainMap(a, b)print(merged_map)# 预期输出: {'123': {'winner': 1, 'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}# 转换为普通字典以进行进一步操作(如果需要)final_dict = dict(merged_map)print(final_dict)# 输出: {'123': {'winner': 1, 'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

从输出可以看出,对于键 ‘123’,嵌套字典 { ‘player’: 1, ‘opponent’: 2 } 和 { ‘winner’: 1 } 已经被成功合并为一个完整的字典 { ‘player’: 1, ‘opponent’: 2, ‘winner’: 1 }。同时,非重叠的键 ’18’ 和 ‘180’ 也被正确保留。

注意事项与总结

惰性查找特性: DeepChainMap 继承了 ChainMap 的惰性查找特性。这意味着只有当实际访问某个键时,才会执行查找和潜在的深度合并操作。这对于处理非常大的字典集合,但只访问其中一部分数据的情况,可以提高效率。合并顺序: 合并的优先级仍然遵循 ChainMap 的规则,即传入 DeepChainMap 的字典顺序。对于非字典类型的值,第一个找到的值会被返回。对于字典类型的值,它们会递归地合并,但后续字典中的同名键会覆盖前面字典中的同名键(这是 dict.update() 或字典合并的常见行为)。适用场景: DeepChainMap 特别适用于需要将多个配置源(如默认配置、用户配置、命令行参数)进行深度合并的场景,尤其当这些配置中包含嵌套结构时。与递归更新的区别: 如果你仅仅需要一个最终的、完全合并后的新字典,并且不关心 ChainMap 的惰性查找特性,那么编写一个递归函数来更新字典可能是另一种更直接的方式。然而,DeepChainMap 提供了一种优雅且面向对象的方式来处理这类深度合并问题,尤其是在需要维护多个字典视图的场景下。

通过自定义 DeepChainMap,我们成功扩展了 collections.ChainMap 的功能,使其能够处理更复杂的深度合并需求,为 Python 开发者提供了更强大的字典操作工具。

以上就是使用 ChainMap 实现 Python 字典的深度合并的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1366998.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 07:02:19
下一篇 2025年12月14日 07:02:32

相关推荐

  • PyMuPDF批量处理:为多文件夹内PDF文件添加指定页面

    本文详细介绍了如何使用Python的PyMuPDF(fitz)库,高效地为散布在不同文件夹下的多个PDF文件批量添加指定页面。通过遍历文件系统、读取PDF内容到内存以及利用PyMuPDF的插入和保存功能,用户可以轻松实现将固定页面(如页眉、页脚或补充信息页)插入到现有PDF文件的指定位置,从而自动化…

    好文分享 2025年12月14日
    000
  • pyads通知机制的高效数据处理:基于类的设计与优化实践

    本文深入探讨了如何利用pyads库高效处理PLC实时数据通知。针对高并发、大数据量场景,我们提出并详细阐述了基于类封装的解决方案,以避免全局变量,实现更清晰的状态管理和数据积累。同时,文章还介绍了优化数据解析性能的关键技巧,包括利用原始字节数据与NumPy进行批量处理,旨在帮助开发者构建健壮、高性能…

    2025年12月14日
    000
  • PyADS通知机制与高效数据处理教程

    本教程详细探讨了如何利用 PyADS 库的通知机制,高效、Pythonic地处理来自PLC的大量实时数据。文章介绍了通过类封装回调函数来管理内部状态和累积数据的方法,有效避免了全局变量的使用。同时,教程深入讲解了优化数据解析性能的策略,包括使用 return_ctypes=True 结合 NumPy…

    2025年12月14日
    000
  • Python Requests库中API请求体数据类型与传输方法详解

    本文深入探讨了在使用Python requests库与RESTful API交互时,如何正确处理请求体数据,以避免常见的“数据类型不匹配”错误,例如“tags should be an array”。文章详细解释了requests.post()方法中params、data和json参数的区别与适用场…

    2025年12月14日
    000
  • Python深度合并嵌套字典:扩展ChainMap的实战指南

    本文深入探讨了在Python中合并嵌套字典的挑战,特别是当键冲突时需要进行深度合并的场景。我们将分析collections.ChainMap在处理此类问题时的局限性,并提供一个定制化的DeepChainMap类,通过重写__getitem__方法,实现对嵌套字典的递归合并,从而优雅地解决复杂的字典合…

    2025年12月14日
    000
  • 使用 collections.ChainMap 实现深度字典合并

    本文探讨了如何利用 Python 的 collections.ChainMap 实现深度字典合并。标准 ChainMap 仅提供浅层合并,即遇到重复键时只取第一个值。针对嵌套字典场景,我们通过自定义 DeepChainMap 类并重写其 __getitem__ 方法,使其能够递归地合并相同键下的字典…

    2025年12月14日
    000
  • 解决Windows环境下Python pip install jq失败的方案

    本文旨在解决在Windows操作系统中,通过pip安装jq库时遇到的构建失败问题,特别是当其作为Langchain JSONLoader的依赖时。文章将提供一种有效的解决方案:利用预编译的.whl文件进行手动安装,并详细指导安装步骤,同时指出使用此方法的相关注意事项,确保用户能在Windows上成功…

    2025年12月14日
    000
  • Python批量API请求处理:数据整合、限流与错误管理

    本文旨在指导如何使用Python高效地处理批量API请求,特别是当输入数据来源于多个列表时。我们将重点探讨如何将这些数据整合、如何通过自定义上下文管理器实现API请求的速率限制,以及如何确保请求的健壮性,通过错误处理机制提升代码的可靠性,最终将结果结构化为Pandas DataFrame。 1. 批…

    2025年12月14日
    000
  • Python中通过API获取地理距离:请求限流与数据整合实践

    本教程详细讲解如何利用Python通过外部API计算地理位置间的驾驶距离,并重点介绍如何实现API请求的限流以遵守服务条款。文章涵盖了API调用函数的构建、基于上下文管理器的智能限流机制、鲁棒的错误处理方法,以及最终将所有数据(包括原始坐标和计算出的距离)整合到Pandas DataFrame中的完…

    2025年12月14日
    000
  • 通过Python实现API请求限速与批量地理距离计算

    本教程详细介绍了如何使用Python高效且负责任地通过API计算两点间的驾驶距离。文章从基础的API调用函数出发,深入探讨了利用contextlib模块实现API请求限速的策略,以避免因请求频率过高而被服务器拒绝。此外,教程还强调了API响应错误处理的重要性,并提供了将计算结果整合到Pandas D…

    2025年12月14日
    000
  • 解决Windows上Python安装jq库失败的问题

    本文针对Windows用户在使用Python的Langchain库中JSONLoader时,因jq库安装失败(常见错误为Failed to build jq)的问题,提供了一套有效的解决方案。核心方法是利用预编译的.whl文件进行离线安装,详细指导了下载和安装步骤,并强调了使用该方案的注意事项和潜在…

    2025年12月14日
    000
  • 使用Python通过API计算地理距离:数据整合与API速率限制实践

    本文旨在指导读者如何使用Python高效地通过外部API计算地理位置间的驾驶距离。内容涵盖了从多源列表数据中提取信息、构建API请求、集成OSRM路由服务进行距离计算的核心方法,并重点介绍了如何利用Python的contextlib.contextmanager实现健壮的API请求速率限制机制,以避…

    2025年12月14日
    000
  • Python批量API调用与限流策略:高效处理多源地理数据

    本文详细介绍了如何使用Python处理来自多个列表的地理坐标数据,并通过API批量计算驾驶距离。核心内容包括利用zip函数高效迭代多组坐标,集成requests库进行API调用,以及通过自定义上下文管理器实现API请求的智能限流,确保程序稳定运行并遵守API服务条款。文章还强调了API响应错误处理的…

    2025年12月14日
    000
  • Python中如何检测不兼容的类型比较操作?

    1.最靠谱的解决python中不兼容类型比较的方法是使用静态类型检查工具如mypy;2.通过类型提示明确变量、函数参数和返回值的类型;3.mypy会在代码运行前分析类型是否匹配,提前发现潜在问题;4.相比运行时错误处理,静态检查能更早发现问题并减少调试成本;5.对于自定义类,需合理实现__eq__、…

    2025年12月14日 好文分享
    000
  • Python屏蔽输出信息如何在异常处理中隐藏堆栈信息 Python屏蔽输出信息的堆栈信息管控方法​

    使用logging模块记录异常,通过配置不同handler分别向用户输出简洁错误信息、向开发者记录完整堆栈;2. 自定义sys.excepthook以控制未捕获异常的输出行为,屏蔽堆栈并显示友好提示;3. 临时重定向sys.stderr以完全抑制标准错误输出,适用于特定代码块;4. 通过调整第三方库…

    2025年12月14日
    000
  • Snakemake动态参数管理:链式依赖与函数封装实践

    本文旨在解决Snakemake规则中参数链式依赖的问题,即一个params参数需要依赖于同规则中其他params参数的值。直接在params块内进行链式引用会导致NameError。核心解决方案是利用Python函数封装复杂的参数推导逻辑,将所有依赖关系整合到一个可调用对象中,并通过wildcard…

    2025年12月14日
    000
  • 运行Python脚本如何处理执行时出现的语法错误 运行Python脚本的语法错误解决方法

    解读python语法错误信息时,首先要查看错误类型和行号,例如syntaxerror: invalid syntax表示语法无效,需检查对应行的代码;2. 常见的语法错误包括拼写错误、缺少冒号、缩进错误、括号或引号不匹配、使用保留字作为变量名、使用未定义变量以及除零错误等;3. 调试方法包括仔细阅读…

    2025年12月14日
    000
  • Keras模型训练与评估精度不一致问题解析与解决方案

    本文深入探讨了Keras模型在训练过程中(model.fit)报告的精度与模型评估(model.evaluate)精度不一致的常见问题。通过分析两者计算机制的差异,特别是批量更新和指标聚合方式,揭示了产生差异的根本原因。文章提供了通过引入validation_data并在自定义回调中监控val_ac…

    2025年12月14日
    000
  • 高效管理PyADS通知与大规模数据采集

    本文旨在深入探讨如何利用Python的PyADS库高效地从倍福PLC获取实时数据,特别是针对高频、大规模数据采集场景。我们将重点介绍如何通过面向对象的方法(类)来管理回调函数的内部状态和累积数据,从而避免使用全局变量,并提供性能优化策略,尤其是在处理同类型大量数据时,通过自定义字节解析结合NumPy…

    2025年12月14日
    000
  • PyADS通知回调函数中高效处理PLC数据:基于类的解决方案

    本教程探讨如何在PyADS应用中,高效且Pythonic地处理来自PLC的实时、大批量通知数据,避免使用全局变量。通过引入基于类的回调函数管理模式,文章详细阐述了如何将回调数据安全地集成到应用程序状态中,并提供了优化数据转换性能的策略,尤其适用于高吞吐量的数据采集场景。 1. 引言:PyADS通知与…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信