使用 collections.ChainMap 实现深度字典合并

使用 collections.chainmap 实现深度字典合并

本文探讨了如何利用 Python 的 collections.ChainMap 实现深度字典合并。标准 ChainMap 仅提供浅层合并,即遇到重复键时只取第一个值。针对嵌套字典场景,我们通过自定义 DeepChainMap 类并重写其 __getitem__ 方法,使其能够递归地合并相同键下的字典值,从而实现复杂的深度合并逻辑,有效处理多层嵌套的数据结构。

理解 collections.ChainMap 及其局限性

collections.ChainMap 是 Python collections 模块提供的一个类,它将多个字典或映射组合成一个单一的可更新视图。它维护一个映射列表,并在查找键时按照列表的顺序从左到右进行搜索,返回第一个找到的值。这对于需要按优先级合并配置或查找变量的场景非常有用。

考虑以下两个字典 a 和 b:

a = {'123': {'player': 1, 'opponent': 2},     '18': {'player': 10, 'opponent': 12}}b = {'123': {'winner': 1},     '180': {'winner': 2}}

如果使用标准的 ChainMap 进行合并:

from collections import ChainMapmerged_map = ChainMap(a, b)print(dict(merged_map))

输出结果为:

{'123': {'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

可以看到,对于键 ‘123’,ChainMap 仅仅返回了字典 a 中对应的值 {‘player’: 1, ‘opponent’: 2},而忽略了字典 b 中 ‘123’ 键下的 {‘winner’: 1}。这是因为 ChainMap 实现了浅层合并,它在遇到重复键时,只会返回映射列表中第一个找到的键值对,不会进一步合并键对应的值(如果它们也是字典)。

然而,我们期望的输出是:

{'123': {'player': 1, 'opponent': 2, 'winner': 1}, '18': {'player': 10, 'opponent': 12}, '180': {'winner': 2}}

这要求当多个字典中存在相同的键,并且这些键对应的值本身也是字典时,我们需要将这些嵌套的字典进行递归合并,而非简单地取第一个。

实现自定义 DeepChainMap 进行深度合并

为了实现这种深度合并行为,我们需要创建一个 ChainMap 的子类,并重写其 __getitem__ 方法。__getitem__ 是 Python 对象在通过 obj[key] 访问元素时调用的特殊方法。通过自定义此方法,我们可以在键查找时引入递归合并逻辑。

以下是 DeepChainMap 的实现:

from collections import ChainMapclass DeepChainMap(ChainMap):    """    ChainMap 的变体,支持对嵌套字典进行递归深度合并。    """    def __getitem__(self, key):        """        重写 __getitem__ 方法,实现深度合并逻辑。        当查找到的第一个值是字典时,递归地将所有映射中        该键对应的字典值合并为一个新的 DeepChainMap。        """        # 收集所有映射中与给定键关联的值        # 注意:这里会收集所有找到的值,即使它们不是字典        values = (mapping[key] for mapping in self.maps if key in mapping)        try:            # 获取第一个找到的值            first = next(values)        except StopIteration:            # 如果在任何映射中都未找到该键,则抛出 KeyError            return self.__missing__(key)        # 如果第一个找到的值是字典类型,则进行递归合并        if isinstance(first, dict):            # 使用当前 DeepChainMap 类,将第一个字典和后续找到的所有字典            # 作为新的映射列表,递归创建并返回一个新的 DeepChainMap 实例。            # 这样就实现了对嵌套字典的深度合并。            return self.__class__(first, *values)        # 如果第一个找到的值不是字典,则直接返回该值(标准 ChainMap 行为)        return first    def __repr__(self):        """        重写 __repr__ 方法,使其在打印时更清晰,直接显示为字典形式。        """        return repr(dict(self))

代码解析:

__getitem__(self, key) 方法:values = (mapping[key] for mapping in self.maps if key in mapping): 这一行是关键。它不是简单地返回第一个找到的值,而是创建一个生成器表达式,迭代 self.maps(即 ChainMap 内部维护的字典列表),收集所有映射中与 key 关联的值。first = next(values): 尝试从 values 生成器中获取第一个值。except StopIteration: return self.__missing__(key): 如果 values 为空(即 key 在所有映射中都不存在),则调用 __missing__ 方法(通常会抛出 KeyError),保持与标准字典和 ChainMap 一致的错误行为。if isinstance(first, dict): return self.__class__(first, *values): 这是实现深度合并的核心逻辑。如果 first 值是一个字典,这意味着我们需要进一步合并它。我们通过 self.__class__(first, *values) 递归地创建了一个新的 DeepChainMap 实例。这个新的 DeepChainMap 的映射列表由 first 字典和 values 生成器中剩余的所有字典组成。当访问这个新的 DeepChainMap 内部的键时,会再次触发 __getitem__ 方法,从而实现多层嵌套字典的深度合并。return first: 如果 first 值不是字典(例如,是字符串、整数、列表等),则直接返回它,保持 ChainMap 的默认行为。__repr__(self) 方法:return repr(dict(self)): 这个方法是为了让 DeepChainMap 实例在被 print() 或在交互式环境中显示时,能够以更直观的字典形式展现,方便调试和理解。

示例用法

现在,我们可以使用 DeepChainMap 来实现我们期望的深度合并:

# 示例字典数据a = {'123': {'player': 1,             'opponent': 2},     '18': {'player': 10,            'opponent': 12}    }b = {'123': {'winner': 1},     '180': {'winner': 2}    }# 使用自定义的 DeepChainMap 进行合并deep_merged_map = DeepChainMap(a, b)# 打印合并后的结果print(deep_merged_map)

输出结果:

{'123': {'winner': 1, 'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

可以看到,对于键 ‘123’,a 和 b 中对应的嵌套字典 {‘player’: 1, ‘opponent’: 2} 和 {‘winner’: 1} 已经被成功地合并成 {‘winner’: 1, ‘player’: 1, ‘opponent’: 2}。同时,其他不冲突的键 ’18’ 和 ‘180’ 也被正确地包含在最终结果中。

注意事项与总结

合并顺序与优先级: DeepChainMap 继承了 ChainMap 的特性,其合并顺序仍然是从左到右。这意味着在深度合并嵌套字典时,如果多个字典中存在相同的内层键,靠前的字典中的值会优先被保留或合并。在上述示例中,{‘winner’: 1} 来自 b,{‘player’: 1, ‘opponent’: 2} 来自 a。最终 ‘winner’ 键在 ‘player’ 和 ‘opponent’ 之后出现,这是因为在 DeepChainMap(a, b) 中,a 字典中的 ‘123’ 被作为第一个映射传递给内层递归的 DeepChainMap。非字典值的处理: 本文提供的 DeepChainMap 实现只针对值为字典的情况进行深度合并。如果相同键对应的值不是字典(例如,都是整数、字符串或列表),它将遵循 ChainMap 的默认行为,即返回第一个找到的值。如果需要对其他类型(如列表)进行特殊的深度合并(例如,列表拼接),则需要进一步扩展 __getitem__ 中的逻辑。写入操作: 本文的 DeepChainMap 主要侧重于读取(__getitem__)时的深度合并行为。ChainMap 默认的 __setitem__ 和 __delitem__ 操作只作用于其映射列表中的第一个可写字典。如果需要对深度合并后的结构进行写入或删除操作,并希望这些操作能够影响到原始的嵌套字典,则需要额外重写 __setitem__ 和 __delitem__ 方法,并实现相应的递归写入/删除逻辑。性能考量: 每次 __getitem__ 访问嵌套字典时都可能创建新的 DeepChainMap 实例,这在非常深层或频繁访问的场景下可能会有轻微的性能开销。但在大多数常规应用中,这种开销通常可以接受。

通过自定义 ChainMap 的 __getitem__ 方法,我们成功地将一个只支持浅层合并的工具扩展为能够处理复杂嵌套字典的深度合并器。这展示了 Python 灵活的面向对象特性和特殊方法(dunder methods)在构建自定义数据结构时的强大能力。

以上就是使用 collections.ChainMap 实现深度字典合并的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1366986.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 07:01:47
下一篇 2025年12月14日 07:02:00

相关推荐

  • 解决Windows环境下Python pip install jq失败的方案

    本文旨在解决在Windows操作系统中,通过pip安装jq库时遇到的构建失败问题,特别是当其作为Langchain JSONLoader的依赖时。文章将提供一种有效的解决方案:利用预编译的.whl文件进行手动安装,并详细指导安装步骤,同时指出使用此方法的相关注意事项,确保用户能在Windows上成功…

    2025年12月14日
    000
  • Python批量API请求处理:数据整合、限流与错误管理

    本文旨在指导如何使用Python高效地处理批量API请求,特别是当输入数据来源于多个列表时。我们将重点探讨如何将这些数据整合、如何通过自定义上下文管理器实现API请求的速率限制,以及如何确保请求的健壮性,通过错误处理机制提升代码的可靠性,最终将结果结构化为Pandas DataFrame。 1. 批…

    2025年12月14日
    000
  • Python中通过API获取地理距离:请求限流与数据整合实践

    本教程详细讲解如何利用Python通过外部API计算地理位置间的驾驶距离,并重点介绍如何实现API请求的限流以遵守服务条款。文章涵盖了API调用函数的构建、基于上下文管理器的智能限流机制、鲁棒的错误处理方法,以及最终将所有数据(包括原始坐标和计算出的距离)整合到Pandas DataFrame中的完…

    2025年12月14日
    000
  • 通过Python实现API请求限速与批量地理距离计算

    本教程详细介绍了如何使用Python高效且负责任地通过API计算两点间的驾驶距离。文章从基础的API调用函数出发,深入探讨了利用contextlib模块实现API请求限速的策略,以避免因请求频率过高而被服务器拒绝。此外,教程还强调了API响应错误处理的重要性,并提供了将计算结果整合到Pandas D…

    2025年12月14日
    000
  • 解决Windows上Python安装jq库失败的问题

    本文针对Windows用户在使用Python的Langchain库中JSONLoader时,因jq库安装失败(常见错误为Failed to build jq)的问题,提供了一套有效的解决方案。核心方法是利用预编译的.whl文件进行离线安装,详细指导了下载和安装步骤,并强调了使用该方案的注意事项和潜在…

    2025年12月14日
    000
  • 使用Python通过API计算地理距离:数据整合与API速率限制实践

    本文旨在指导读者如何使用Python高效地通过外部API计算地理位置间的驾驶距离。内容涵盖了从多源列表数据中提取信息、构建API请求、集成OSRM路由服务进行距离计算的核心方法,并重点介绍了如何利用Python的contextlib.contextmanager实现健壮的API请求速率限制机制,以避…

    2025年12月14日
    000
  • Python批量API调用与限流策略:高效处理多源地理数据

    本文详细介绍了如何使用Python处理来自多个列表的地理坐标数据,并通过API批量计算驾驶距离。核心内容包括利用zip函数高效迭代多组坐标,集成requests库进行API调用,以及通过自定义上下文管理器实现API请求的智能限流,确保程序稳定运行并遵守API服务条款。文章还强调了API响应错误处理的…

    2025年12月14日
    000
  • Python中如何检测不兼容的类型比较操作?

    1.最靠谱的解决python中不兼容类型比较的方法是使用静态类型检查工具如mypy;2.通过类型提示明确变量、函数参数和返回值的类型;3.mypy会在代码运行前分析类型是否匹配,提前发现潜在问题;4.相比运行时错误处理,静态检查能更早发现问题并减少调试成本;5.对于自定义类,需合理实现__eq__、…

    2025年12月14日 好文分享
    000
  • Python屏蔽输出信息如何在异常处理中隐藏堆栈信息 Python屏蔽输出信息的堆栈信息管控方法​

    使用logging模块记录异常,通过配置不同handler分别向用户输出简洁错误信息、向开发者记录完整堆栈;2. 自定义sys.excepthook以控制未捕获异常的输出行为,屏蔽堆栈并显示友好提示;3. 临时重定向sys.stderr以完全抑制标准错误输出,适用于特定代码块;4. 通过调整第三方库…

    2025年12月14日
    000
  • Snakemake动态参数管理:链式依赖与函数封装实践

    本文旨在解决Snakemake规则中参数链式依赖的问题,即一个params参数需要依赖于同规则中其他params参数的值。直接在params块内进行链式引用会导致NameError。核心解决方案是利用Python函数封装复杂的参数推导逻辑,将所有依赖关系整合到一个可调用对象中,并通过wildcard…

    2025年12月14日
    000
  • 运行Python脚本如何处理执行时出现的语法错误 运行Python脚本的语法错误解决方法

    解读python语法错误信息时,首先要查看错误类型和行号,例如syntaxerror: invalid syntax表示语法无效,需检查对应行的代码;2. 常见的语法错误包括拼写错误、缺少冒号、缩进错误、括号或引号不匹配、使用保留字作为变量名、使用未定义变量以及除零错误等;3. 调试方法包括仔细阅读…

    2025年12月14日
    000
  • Keras模型训练与评估精度不一致问题解析与解决方案

    本文深入探讨了Keras模型在训练过程中(model.fit)报告的精度与模型评估(model.evaluate)精度不一致的常见问题。通过分析两者计算机制的差异,特别是批量更新和指标聚合方式,揭示了产生差异的根本原因。文章提供了通过引入validation_data并在自定义回调中监控val_ac…

    2025年12月14日
    000
  • 高效管理PyADS通知与大规模数据采集

    本文旨在深入探讨如何利用Python的PyADS库高效地从倍福PLC获取实时数据,特别是针对高频、大规模数据采集场景。我们将重点介绍如何通过面向对象的方法(类)来管理回调函数的内部状态和累积数据,从而避免使用全局变量,并提供性能优化策略,尤其是在处理同类型大量数据时,通过自定义字节解析结合NumPy…

    2025年12月14日
    000
  • PyADS通知回调函数中高效处理PLC数据:基于类的解决方案

    本教程探讨如何在PyADS应用中,高效且Pythonic地处理来自PLC的实时、大批量通知数据,避免使用全局变量。通过引入基于类的回调函数管理模式,文章详细阐述了如何将回调数据安全地集成到应用程序状态中,并提供了优化数据转换性能的策略,尤其适用于高吞吐量的数据采集场景。 1. 引言:PyADS通知与…

    2025年12月14日
    000
  • 使用 Polars 高效计算 DataFrame 中按 ID 分组的时间间隔

    本文详细阐述了如何利用 Polars 库的窗口函数 pl.Expr.over(),高效地计算 Pandas 或 Polars DataFrame 中每个独立标识符(ID)内部连续事件之间的时间间隔。通过避免传统的 map 或 apply 操作,我们展示了如何利用 Polars 原生表达式 API,结…

    2025年12月14日
    000
  • 利用Python与PyMuPDF库批量向多层目录下的PDF文件追加或插入指定页面

    本教程详细介绍了如何使用Python的PyMuPDF(fitz)库,高效地批量处理位于多层文件夹中的PDF文件。核心内容包括遍历指定目录下的所有PDF文件,将一个或多个预设的PDF页面追加到现有PDF的末尾,或精确插入到指定位置。教程提供了清晰的示例代码,并强调了内存处理、性能优化及注意事项,帮助用…

    2025年12月14日
    000
  • Snakemake中链式参数的动态生成与应用

    本文旨在深入探讨Snakemake中如何正确实现参数的链式引用与动态生成,特别是当参数值依赖于通配符(wildcards)或先前定义的动态值时。我们将解释直接引用失败的原因,并提供一种健壮的解决方案:通过定义可调用函数(callable functions)来延迟参数的评估,确保在作业执行时能够正确…

    2025年12月14日
    000
  • Python中深度合并嵌套字典的技巧:使用自定义ChainMap实现

    在Python编程中,我们经常需要合并多个字典。对于简单的字典合并,Python提供了多种方法,例如使用dict.update()、字典解包运算符**或collections.ChainMap。然而,当字典的值本身也是字典,并且我们希望对这些内层字典也进行合并时,传统的浅层合并方法就显得力不从心了。…

    2025年12月14日
    000
  • 高效管理Pyads通知回调与大规模数据处理

    本文旨在探讨在Pyads应用中,如何高效处理来自PLC的ADS通知回调数据,特别是在处理大量、高频数据时,避免使用全局变量,并采用Pythonic的类封装方法管理状态。同时,文章还将深入讲解如何优化字节数据到Python类型的转换,以提升大规模数据处理的性能。 Pyads通知机制与数据处理挑战 py…

    2025年12月14日
    000
  • Python中利用自定义DeepChainMap实现嵌套字典的深度合并

    本文深入探讨了如何利用Python的collections.ChainMap实现嵌套字典的深度合并。针对ChainMap默认只合并顶层键值对,无法处理相同键下仍为字典的场景,我们通过自定义DeepChainMap类,重写其__getitem__方法,使其能够递归地合并嵌套的字典结构。这提供了一种灵活…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信