Python深度合并嵌套字典:扩展ChainMap的实战指南

Python深度合并嵌套字典:扩展ChainMap的实战指南

本文深入探讨了在Python中合并嵌套字典的挑战,特别是当键冲突时需要进行深度合并的场景。我们将分析collections.ChainMap在处理此类问题时的局限性,并提供一个定制化的DeepChainMap类,通过重写__getitem__方法,实现对嵌套字典的递归合并,从而优雅地解决复杂的字典合并需求,确保数据完整性和结构化输出。

1. 字典合并与ChainMap的局限性

python中,合并字典是一个常见的操作。对于简单的字典,可以使用update()方法或字典解包操作符(**)来合并。然而,当涉及到具有相同键的嵌套字典时,情况会变得复杂。例如,如果两个字典都包含键’123’,且其对应的值都是字典,我们通常希望这些内部字典也能被合并,而不是简单地覆盖。

collections.ChainMap是Python标准库提供的一个非常实用的工具,它将多个字典或映射组合成一个单一的、可更新的视图。它的主要特点是:

查找顺序: 当查找一个键时,ChainMap会按照传入的字典顺序依次查找,返回第一个找到的值。写操作: 默认情况下,所有写操作(如__setitem__)都会影响ChainMap中第一个字典。

考虑以下两个嵌套字典:

a = {'123': {'player': 1,             'opponent': 2},     '18': {'player': 10,            'opponent': 12}    }b = {'123': {'winner': 1},     '180': {'winner': 2}    }

我们期望的合并结果是:

{'123': {'player': 1,         'opponent': 2,         'winner': 1}, # 内部字典被合并 '18': {'player': 10,        'opponent': 12}, '180': {'winner': 2}}

然而,直接使用ChainMap进行合并,其行为并不能满足这种深度合并的需求:

立即学习“Python免费学习笔记(深入)”;

from collections import ChainMapmerged_chainmap = ChainMap(a, b)print(dict(merged_chainmap))# 输出: {'123': {'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

可以看到,键’123’对应的值是字典a中的{‘player’: 1, ‘opponent’: 2},而b中’123’对应的{‘winner’: 1}被完全忽略了。这是因为ChainMap在查找’123’时,首先在a中找到了对应的值,便直接返回,不再继续查找b中的同名键。对于非字典类型的值,这种行为是合理的,但对于嵌套字典,我们需要更深层次的合并逻辑。

2. 实现深度合并:定制DeepChainMap

为了实现对嵌套字典的深度合并,我们需要扩展ChainMap的行为。核心思想是重写__getitem__方法,使其在遇到值为字典的键时,能够递归地将所有映射中该键对应的字典进行合并。

以下是实现这一功能的DeepChainMap类:

from collections import ChainMapclass DeepChainMap(ChainMap):    """    一个ChainMap的变体,支持对嵌套字典的递归深度合并。    当查找的键对应的值为字典时,它会将所有映射中该键对应的字典进行递归合并。    """    def __getitem__(self, key):        """        重写__getitem__方法,实现深度查找和合并逻辑。        """        # 收集所有映射中给定键对应的值        values = (mapping[key] for mapping in self.maps if key in mapping)        try:            # 获取第一个找到的值            first = next(values)        except StopIteration:            # 如果所有映射中都没有找到该键,则抛出KeyError            return self.__missing__(key)        # 如果第一个找到的值是字典类型        if isinstance(first, dict):            # 递归地创建一个新的DeepChainMap实例,将所有找到的字典进行合并            # self.__class__ 指向 DeepChainMap 类本身            return self.__class__(first, *values)        # 如果不是字典,则直接返回第一个找到的值        return first    def __repr__(self):        """        重写__repr__方法,提供更清晰的表示,使其在打印时像一个普通字典。        """        return repr(dict(self))

代码解析:

__getitem__(self, key) 方法:

values = (mapping[key] for mapping in self.maps if key in mapping): 这是一个生成器表达式,用于遍历self.maps(ChainMap内部存储字典的列表),收集所有包含key的字典中key对应的值。first = next(values): 尝试从values生成器中获取第一个值。except StopIteration: 如果values为空(即所有映射中都没有找到key),则调用self.__missing__(key),这会抛出KeyError,与标准字典行为一致。if isinstance(first, dict): 这是实现深度合并的关键。如果first是一个字典,这意味着我们遇到了一个需要深度合并的嵌套结构。return self.__class__(first, *values): 在这种情况下,我们递归地创建一个新的DeepChainMap实例。self.__class__:确保递归调用的是DeepChainMap类本身。first: 作为新DeepChainMap的第一个映射。*values: 将生成器中剩余的所有字典作为后续映射传递给新的DeepChainMap。这样,所有层级的同名字典都会被递归合并。return first: 如果first不是字典(例如,是整数、字符串、列表等),则直接返回它,不进行递归合并。

__repr__(self) 方法:

return repr(dict(self)): 这个方法是为了让DeepChainMap实例在被print()或在交互式环境中显示时,能够以一个常规字典的格式呈现,提高可读性。它将DeepChainMap转换为一个普通字典,然后返回其字符串表示。

3. 实际应用与演示

现在,我们可以使用我们定制的DeepChainMap来合并之前的示例字典:

a = {'123': {'player': 1,             'opponent': 2},     '18': {'player': 10,            'opponent': 12}    }b = {'123': {'winner': 1},     '180': {'winner': 2}    }# 使用DeepChainMap进行合并deep_merged_dict = DeepChainMap(a, b)print(deep_merged_dict)

输出结果:

{'123': {'winner': 1, 'player': 1, 'opponent': 2}, '180': {'winner': 2}, '18': {'player': 10, 'opponent': 12}}

正如所期望的,键’123’对应的内部字典被成功合并,b中的’winner’: 1被添加到了a中’123’对应的字典里,而其他不冲突的键则被正确保留。

4. 注意事项与总结

只读操作的深度合并: 当前实现的DeepChainMap主要解决了读取(__getitem__)时的深度合并问题。这意味着当你通过DeepChainMap访问一个键时,如果该键对应的值是嵌套字典,你会得到一个合并后的视图。写操作(__setitem__和__delitem__): 如果你需要对DeepChainMap进行写操作(例如,更新或删除键),并且希望这些操作也能以深度合并或深度删除的方式进行,那么你需要类似地重写__setitem__和__delitem__方法。默认情况下,ChainMap的写操作只会影响第一个映射。例如,如果你对DeepChainMap进行赋值操作,如deep_merged_dict[‘123’][‘new_key’] = ‘value’,这实际上是直接修改了a中’123’对应的字典,而不是在合并后的视图上进行操作。性能考量: 每次通过__getitem__访问一个嵌套字典时,DeepChainMap都会递归地创建一个新的DeepChainMap实例。对于非常深或非常频繁访问的嵌套结构,这可能会引入一定的性能开销。在某些场景下,如果仅仅需要一次性合并结果,可以考虑使用自定义的递归函数直接生成一个合并后的字典。替代方案: 对于不严格要求使用ChainMap且需要完全可写/可修改的深度合并字典的场景,可以编写一个通用的递归字典合并函数。例如,使用类似dict.update()的逻辑,但在遇到字典值时递归调用自身。

通过扩展collections.ChainMap并重写其核心方法,我们成功地实现了对嵌套字典的深度合并。这种方法利用了ChainMap的视图特性,在不改变原始字典的前提下,提供了一个合并后的统一视图,为处理复杂数据结构提供了强大的灵活性。

以上就是Python深度合并嵌套字典:扩展ChainMap的实战指南的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1366990.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 07:02:00
下一篇 2025年12月14日 07:02:13

相关推荐

  • Python Requests库中API请求体数据类型与传输方法详解

    本文深入探讨了在使用Python requests库与RESTful API交互时,如何正确处理请求体数据,以避免常见的“数据类型不匹配”错误,例如“tags should be an array”。文章详细解释了requests.post()方法中params、data和json参数的区别与适用场…

    好文分享 2025年12月14日
    000
  • 使用 collections.ChainMap 实现深度字典合并

    本文探讨了如何利用 Python 的 collections.ChainMap 实现深度字典合并。标准 ChainMap 仅提供浅层合并,即遇到重复键时只取第一个值。针对嵌套字典场景,我们通过自定义 DeepChainMap 类并重写其 __getitem__ 方法,使其能够递归地合并相同键下的字典…

    2025年12月14日
    000
  • 解决Windows环境下Python pip install jq失败的方案

    本文旨在解决在Windows操作系统中,通过pip安装jq库时遇到的构建失败问题,特别是当其作为Langchain JSONLoader的依赖时。文章将提供一种有效的解决方案:利用预编译的.whl文件进行手动安装,并详细指导安装步骤,同时指出使用此方法的相关注意事项,确保用户能在Windows上成功…

    2025年12月14日
    000
  • Python批量API请求处理:数据整合、限流与错误管理

    本文旨在指导如何使用Python高效地处理批量API请求,特别是当输入数据来源于多个列表时。我们将重点探讨如何将这些数据整合、如何通过自定义上下文管理器实现API请求的速率限制,以及如何确保请求的健壮性,通过错误处理机制提升代码的可靠性,最终将结果结构化为Pandas DataFrame。 1. 批…

    2025年12月14日
    000
  • Python中通过API获取地理距离:请求限流与数据整合实践

    本教程详细讲解如何利用Python通过外部API计算地理位置间的驾驶距离,并重点介绍如何实现API请求的限流以遵守服务条款。文章涵盖了API调用函数的构建、基于上下文管理器的智能限流机制、鲁棒的错误处理方法,以及最终将所有数据(包括原始坐标和计算出的距离)整合到Pandas DataFrame中的完…

    2025年12月14日
    000
  • 通过Python实现API请求限速与批量地理距离计算

    本教程详细介绍了如何使用Python高效且负责任地通过API计算两点间的驾驶距离。文章从基础的API调用函数出发,深入探讨了利用contextlib模块实现API请求限速的策略,以避免因请求频率过高而被服务器拒绝。此外,教程还强调了API响应错误处理的重要性,并提供了将计算结果整合到Pandas D…

    2025年12月14日
    000
  • 解决Windows上Python安装jq库失败的问题

    本文针对Windows用户在使用Python的Langchain库中JSONLoader时,因jq库安装失败(常见错误为Failed to build jq)的问题,提供了一套有效的解决方案。核心方法是利用预编译的.whl文件进行离线安装,详细指导了下载和安装步骤,并强调了使用该方案的注意事项和潜在…

    2025年12月14日
    000
  • 使用Python通过API计算地理距离:数据整合与API速率限制实践

    本文旨在指导读者如何使用Python高效地通过外部API计算地理位置间的驾驶距离。内容涵盖了从多源列表数据中提取信息、构建API请求、集成OSRM路由服务进行距离计算的核心方法,并重点介绍了如何利用Python的contextlib.contextmanager实现健壮的API请求速率限制机制,以避…

    2025年12月14日
    000
  • Python批量API调用与限流策略:高效处理多源地理数据

    本文详细介绍了如何使用Python处理来自多个列表的地理坐标数据,并通过API批量计算驾驶距离。核心内容包括利用zip函数高效迭代多组坐标,集成requests库进行API调用,以及通过自定义上下文管理器实现API请求的智能限流,确保程序稳定运行并遵守API服务条款。文章还强调了API响应错误处理的…

    2025年12月14日
    000
  • Python中如何检测不兼容的类型比较操作?

    1.最靠谱的解决python中不兼容类型比较的方法是使用静态类型检查工具如mypy;2.通过类型提示明确变量、函数参数和返回值的类型;3.mypy会在代码运行前分析类型是否匹配,提前发现潜在问题;4.相比运行时错误处理,静态检查能更早发现问题并减少调试成本;5.对于自定义类,需合理实现__eq__、…

    2025年12月14日 好文分享
    000
  • Python屏蔽输出信息如何在异常处理中隐藏堆栈信息 Python屏蔽输出信息的堆栈信息管控方法​

    使用logging模块记录异常,通过配置不同handler分别向用户输出简洁错误信息、向开发者记录完整堆栈;2. 自定义sys.excepthook以控制未捕获异常的输出行为,屏蔽堆栈并显示友好提示;3. 临时重定向sys.stderr以完全抑制标准错误输出,适用于特定代码块;4. 通过调整第三方库…

    2025年12月14日
    000
  • Snakemake动态参数管理:链式依赖与函数封装实践

    本文旨在解决Snakemake规则中参数链式依赖的问题,即一个params参数需要依赖于同规则中其他params参数的值。直接在params块内进行链式引用会导致NameError。核心解决方案是利用Python函数封装复杂的参数推导逻辑,将所有依赖关系整合到一个可调用对象中,并通过wildcard…

    2025年12月14日
    000
  • 运行Python脚本如何处理执行时出现的语法错误 运行Python脚本的语法错误解决方法

    解读python语法错误信息时,首先要查看错误类型和行号,例如syntaxerror: invalid syntax表示语法无效,需检查对应行的代码;2. 常见的语法错误包括拼写错误、缺少冒号、缩进错误、括号或引号不匹配、使用保留字作为变量名、使用未定义变量以及除零错误等;3. 调试方法包括仔细阅读…

    2025年12月14日
    000
  • Keras模型训练与评估精度不一致问题解析与解决方案

    本文深入探讨了Keras模型在训练过程中(model.fit)报告的精度与模型评估(model.evaluate)精度不一致的常见问题。通过分析两者计算机制的差异,特别是批量更新和指标聚合方式,揭示了产生差异的根本原因。文章提供了通过引入validation_data并在自定义回调中监控val_ac…

    2025年12月14日
    000
  • 高效管理PyADS通知与大规模数据采集

    本文旨在深入探讨如何利用Python的PyADS库高效地从倍福PLC获取实时数据,特别是针对高频、大规模数据采集场景。我们将重点介绍如何通过面向对象的方法(类)来管理回调函数的内部状态和累积数据,从而避免使用全局变量,并提供性能优化策略,尤其是在处理同类型大量数据时,通过自定义字节解析结合NumPy…

    2025年12月14日
    000
  • PyADS通知回调函数中高效处理PLC数据:基于类的解决方案

    本教程探讨如何在PyADS应用中,高效且Pythonic地处理来自PLC的实时、大批量通知数据,避免使用全局变量。通过引入基于类的回调函数管理模式,文章详细阐述了如何将回调数据安全地集成到应用程序状态中,并提供了优化数据转换性能的策略,尤其适用于高吞吐量的数据采集场景。 1. 引言:PyADS通知与…

    2025年12月14日
    000
  • 使用 Polars 高效计算 DataFrame 中按 ID 分组的时间间隔

    本文详细阐述了如何利用 Polars 库的窗口函数 pl.Expr.over(),高效地计算 Pandas 或 Polars DataFrame 中每个独立标识符(ID)内部连续事件之间的时间间隔。通过避免传统的 map 或 apply 操作,我们展示了如何利用 Polars 原生表达式 API,结…

    2025年12月14日
    000
  • 利用Python与PyMuPDF库批量向多层目录下的PDF文件追加或插入指定页面

    本教程详细介绍了如何使用Python的PyMuPDF(fitz)库,高效地批量处理位于多层文件夹中的PDF文件。核心内容包括遍历指定目录下的所有PDF文件,将一个或多个预设的PDF页面追加到现有PDF的末尾,或精确插入到指定位置。教程提供了清晰的示例代码,并强调了内存处理、性能优化及注意事项,帮助用…

    2025年12月14日
    000
  • Snakemake中链式参数的动态生成与应用

    本文旨在深入探讨Snakemake中如何正确实现参数的链式引用与动态生成,特别是当参数值依赖于通配符(wildcards)或先前定义的动态值时。我们将解释直接引用失败的原因,并提供一种健壮的解决方案:通过定义可调用函数(callable functions)来延迟参数的评估,确保在作业执行时能够正确…

    2025年12月14日
    000
  • Python中深度合并嵌套字典的技巧:使用自定义ChainMap实现

    在Python编程中,我们经常需要合并多个字典。对于简单的字典合并,Python提供了多种方法,例如使用dict.update()、字典解包运算符**或collections.ChainMap。然而,当字典的值本身也是字典,并且我们希望对这些内层字典也进行合并时,传统的浅层合并方法就显得力不从心了。…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信