在同步Python应用中高效运行异步后台任务:asyncio与线程的结合策略

在同步python应用中高效运行异步后台任务:asyncio与线程的结合策略

本文深入探讨了在同步Python程序中运行异步后台任务的策略。我们首先分析了使用asyncio.create_task而不await时任务无法完成的常见问题,并阐明了asyncio事件循环的工作机制。随后,文章提供了两种核心解决方案:一是在同一事件循环中显式await后台任务以确保其执行,二是通过结合Python的threading模块,在独立的线程中运行asyncio事件循环,从而实现异步任务与同步主程序的并行执行。

理解Asyncio任务调度与事件循环

Python的asyncio库是用于编写并发代码的强大工具,它基于协程(coroutines)和事件循环(event loop)。然而,理解asyncio的核心概念对于在混合同步/异步环境中正确使用它至关重要。

并发而非并行: asyncio实现的是单线程内的并发。它通过在await表达式处挂起当前协程,并将控制权交给事件循环,让事件循环调度其他就绪的协程来模拟同时执行。在任何给定时刻,只有一个协程真正在CPU上运行。这与多线程或多进程实现的并行(在多个CPU核心上同时执行)是不同的概念。事件循环的生命周期: asyncio.run(coroutine)函数是启动asyncio应用程序的入口点。它会启动一个新的事件循环,运行传入的顶级协程,直到该协程完成,然后关闭事件循环。这意味着,如果传入的顶级协程没有显式地等待由asyncio.create_task()创建的其他子任务,那么当顶级协程完成后,事件循环将关闭,所有未被等待的子任务也会随之终止。asyncio.create_task()的作用: 此函数用于将一个协程包装成一个Task对象,并将其调度到当前运行的事件循环中。任务一旦创建并调度,它将在事件循环有机会时开始执行。然而,仅仅创建任务并不保证它会运行到完成,尤其是在其父协程或主事件循环提前结束的情况下。

问题分析:为何后台任务未能完成?

考虑以下场景:一个同步的main函数希望启动一个异步的后台任务。

import asynciofrom time import sleepimport sysasync def task():    """模拟一个耗时的后台异步任务"""    for i in range(5):        print(f"Background task iteration {i}")        await asyncio.sleep(1) # 异步等待,让出控制权    print('finished')async def background_task_starter():    """负责启动后台任务的异步协程"""    print("a")    asyncio.create_task(task()) # 创建并调度任务,但未等待其完成    print("b")def main():    """同步主程序"""    print("Main program started python", sys.version)    asyncio.run(background_task_starter()) # 启动asyncio事件循环并运行background_task_starter    for i in range(3):        sleep(3) # 同步阻塞等待,与asyncio事件循环无关        print(f"Main program iteration {i}")if __name__ == "__main__":    main()

运行上述代码,你可能会得到类似如下的输出:

立即学习“Python免费学习笔记(深入)”;

Main program started python 3.11.6 (main, Oct 23 2023, 22:48:54) [GCC 11.4.0]abBackground task iteration 0Main program iteration 0Main program iteration 1Main program iteration 2

问题解释:

asyncio.run(background_task_starter()) 启动了一个事件循环,并开始执行 background_task_starter 协程。在 background_task_starter 内部,asyncio.create_task(task()) 将 task 协程调度到事件循环中。紧接着,background_task_starter 打印 “b” 并立即完成。由于 background_task_starter 自身没有 await task() 协程,asyncio.run() 认为其主协程已完成,因此会关闭事件循环。尽管 task() 协程在事件循环关闭前有机会执行了第一次迭代(打印 “Background task iteration 0” 并遇到 await asyncio.sleep(1)),但事件循环在其完成所有迭代之前就被强制终止了。main 函数中 asyncio.run() 之后的 sleep(3) 是一个同步阻塞调用,它发生在 asyncio 事件循环已经关闭之后,因此无法让 asyncio 任务继续运行。

解决方案一:在同一事件循环中显式等待任务完成

如果你的目标是确保所有异步任务在当前asyncio.run()调用结束前完成,那么你需要显式地await这些任务。

原理: 通过在父协程中对 asyncio.create_task() 返回的 Task 对象进行 await 操作,我们告诉事件循环:在父协程完成之前,必须等待这个子任务完成。这样,事件循环会一直运行,直到所有被 await 的任务都完成。

Mootion Mootion

Mootion是一个革命性的3D动画创作平台,利用AI技术来简化和加速3D动画的制作过程。

Mootion 177 查看详情 Mootion

import asynciofrom time import sleepimport sysasync def task():    """模拟一个耗时的后台异步任务"""    for i in range(5):        print(f"Background task iteration {i}")        await asyncio.sleep(0.1) # 缩短睡眠时间以便快速演示    print('finished')async def background_task_starter():    """负责启动后台任务的异步协程,并等待其完成"""    print("a")    scheduled_task = asyncio.create_task(task()) # 创建任务    print("task scheduled")    # 可以在此处执行其他非阻塞的异步操作    await scheduled_task # 显式等待后台任务完成    print("b")def main():    """同步主程序"""    print("Main program started python", sys.version)    asyncio.run(background_task_starter()) # 运行主协程,它会等待子任务    for i in range(3):        sleep(0.5) # 此处的sleep在asyncio事件循环结束后执行        print(f"Main program iteration {i}")if __name__ == "__main__":    main()

输出:

Main program started python 3.11.6 (...)atask scheduledBackground task iteration 0Background task iteration 1Background task iteration 2Background task iteration 3Background task iteration 4finishedbMain program iteration 0Main program iteration 1Main program iteration 2

说明: 在此方案中,asyncio.run(background_task_starter()) 会一直运行事件循环,直到 background_task_starter 及其 await 的 scheduled_task 全部完成。这确保了 task 协程能够完整执行。需要注意的是,这种方式下,main 函数中 asyncio.run 之后的代码会在所有异步任务完成后才开始执行,因此并非真正意义上的“后台并行”,而更像是“顺序执行异步任务,然后执行同步任务”。

解决方案二:结合线程实现异步任务的并行执行

当你的主应用程序是纯同步的,并且你希望异步任务在不阻塞主程序的情况下并行运行时,可以利用Python的threading模块。在一个单独的线程中启动一个asyncio事件循环,并在该事件循环中运行异步任务。

原理: threading模块允许程序创建多个执行流(线程),这些线程可以并发地执行代码。通过在一个独立的线程中启动 asyncio 事件循环,我们可以让同步的主线程和包含异步事件循环的后台线程同时运行,从而实现真正的并行。

import asynciofrom time import sleepimport sysimport threadingasync def task():    """模拟一个耗时的后台异步任务"""    for i in range(5):        print(f"Background task iteration {i}")        await asyncio.sleep(1) # 保持原有的睡眠时间    print('finished')async def background_task_runner():    """作为新线程中asyncio事件循环的入口协程"""    print("a")    await task() # 直接等待task协程完成    print("b")def run_async_in_thread():    """在新线程中启动一个独立的asyncio事件循环"""    asyncio.run(background_task_runner())def main():    """同步主程序"""    print("Main program started python", sys.version)    # 创建一个新线程来运行asyncio事件循环    t = threading.Thread(target=run_async_in_thread)    t.start() # 启动后台线程    for i in range(3):        sleep(3) # 主程序继续执行其同步任务        print(f"Main program iteration {i}")    # 可以选择等待后台线程完成,确保所有任务都执行完毕    t.join()     print("Main program finished")if __name__ == "__main__":    main()

输出:

Main program started python 3.11.6 (...)aBackground task iteration 0Main program iteration 0Background task iteration 1Background task iteration 2Background task iteration 3Main program iteration 1Background task iteration 4finishedbMain program iteration 2Main program finished

说明: 在此方案中,main 函数通过创建一个新线程 t 来运行 asyncio 事件循环。这样,主线程可以继续执行其同步的 sleep 循环,而后台线程则独立地执行异步的 task 协程。输出

以上就是在同步Python应用中高效运行异步后台任务:asyncio与线程的结合策略的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/904846.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
星露谷物语PC版入口 星露谷物语电脑网页版在线玩入口
上一篇 2025年11月28日 22:23:43
AI浪潮下的裁员潮!亚马逊等大厂裁撤逾6万人 专家吁警惕「AI洗白」
下一篇 2025年11月28日 22:23:51

相关推荐

  • composer require-dev和require有什么不同_Composer Require与Require-Dev区别解析

    require用于声明项目运行必需的依赖,如框架、数据库组件和第三方SDK,这些包会随项目部署到生产环境;2. require-dev用于声明仅在开发和测试阶段需要的工具,如PHPUnit、PHPStan、Faker等,不会默认部署到生产环境;3. 安装时composer install根据环境决定…

    2026年5月10日
    1000
  • Matplotlib 地图中多类型图例的创建与优化

    Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化

    本教程旨在解决matplotlib地图可视化中,如何在一个图例中同时展示颜色块(如区域分类)和自定义标记(如特定兴趣点)的问题。文章详细介绍了当传统`patch`对象无法正确显示标记时,如何利用`matplotlib.lines.line2d`创建标记图例句柄,并将其与颜色块图例句柄合并,从而生成一…

    2026年5月10日 用户投稿
    100
  • Golang JSON序列化:控制敏感字段暴露的最佳实践

    本教程探讨golang中如何高效控制结构体字段在json序列化时的可见性。当需要将包含敏感信息的结构体数组转换为json响应时,通过利用`encoding/json`包提供的结构体标签,特别是`json:”-“`,可以轻松实现对特定字段的忽略,从而避免敏感数据泄露,确保api…

    2026年5月10日
    000
  • 利用海象运算符简化条件赋值:Python教程与最佳实践

    本文旨在探讨Python中海象运算符(:=)在条件赋值场景下的应用。通过对比传统if/else语句与海象运算符,以及条件表达式,分析海象运算符在简化代码、提高可读性方面的优势与局限性。并通过具体示例,展示如何在列表推导式等场景下合理使用海象运算符,同时强调其潜在的复杂性及替代方案,帮助开发者更好地掌…

    2026年5月10日
    100
  • Debian syslog性能优化技巧有哪些

    提升Debian系统syslog (通常基于rsyslog)性能,关键在于精简配置和高效处理日志。以下策略能有效优化日志管理,提升系统整体性能: 精简配置,高效加载: 在rsyslog配置文件中,仅加载必要的输入、输出和解析模块。 使用全局指令设置日志级别和格式,避免不必要的处理。 自定义模板: 创…

    2026年5月10日
    000
  • 比特币新手教程 比特币交易平台有哪些

    比特币是一种去中心化的数字货币,基于区块链技术实现点对点交易,具有匿名性、有限发行和不可篡改等特点;新手可通过交易所购买,P2P交易获得比特币,常用平台包括Binance、OKX和Huobi;交易流程包括注册账户、实名认证、绑定支付方式、充值法币并下单购买,可选择市价单或限价单;比特币存储方式有交易…

    2026年5月10日
    000
  • c++中的SFINAE技术是什么_c++模板编程中的SFINAE原理与应用

    SFINAE 是“替换失败不是错误”的原则,指模板实例化时若参数替换导致错误,只要存在其他合法候选,编译器不报错而是继续重载决议。它用于条件启用模板、类型检测等场景,如通过 decltype 或 enable_if 控制函数重载,实现类型特征判断。尽管 C++20 引入 Concepts 简化了部分…

    2026年5月10日
    000
  • Go语言mgo查询构建:深入理解bson.M与日期范围查询的正确实践

    本文旨在解决go语言mgo库中构建复杂查询时,特别是涉及嵌套`bson.m`和日期范围筛选的常见错误。我们将深入剖析`bson.m`的类型特性,解释为何直接索引`interface{}`会导致“invalid operation”错误,并提供一种推荐的、结构清晰的代码重构方案,以确保查询条件能够正确…

    2026年5月10日
    100
  • RichHandler与Rich Progress集成:解决显示冲突的教程

    在使用rich库的`richhandler`进行日志输出并同时使用`progress`组件时,可能会遇到显示错乱或溢出问题。这通常是由于为`richhandler`和`progress`分别创建了独立的`console`实例导致的。解决方案是确保日志处理器和进度条组件共享同一个`console`实例…

    2026年5月10日
    000
  • Golang goroutine与channel调试技巧

    使用go run -race检测数据竞争,结合runtime.NumGoroutine监控协程数量,通过pprof分析阻塞调用栈,利用select超时避免永久阻塞,有效排查goroutine泄漏、死锁和数据竞争问题。 Go语言的goroutine和channel是并发编程的核心,但它们也带来了调试上…

    2026年5月10日
    000
  • 《魔兽世界》将于6月11日开启国服回归技术测试

    《魔兽世界》将于6月11日开启国服回归技术测试《魔兽世界》将于6月11日开启国服回归技术测试《魔兽世界》将于6月11日开启国服回归技术测试《魔兽世界》将于6月11日开启国服回归技术测试

    《%ign%ignore_a_1%re_a_1%》官方宣布,将于6月11日开启国服回归技术测试,时间为7天,并称可以在6月内正式开服,玩家们可以访问官网下载战网客户端并预下载“巫妖王之怒”客户端,技术测试详情见下图。 WordAi WordAI是一个AI驱动的内容重写平台 53 查看详情 以上就是《…

    2026年5月10日 用户投稿
    200
  • 使用 Jupyter Notebook 进行探索性数据分析

    Jupyter Notebook通过单元格实现代码与Markdown结合,支持数据导入(pandas)、清洗(fillna)、探索(matplotlib/seaborn可视化)、统计分析(describe/corr)和特征工程,便于记录与分享分析过程。 Jupyter Notebook 是进行探索性…

    2026年5月10日
    000
  • 如何在HTML中插入表单元素_HTML表单控件与输入类型使用指南

    HTML表单通过标签构建,包含action和method属性定义数据提交目标与方式,常用input类型如text、password、email等适配不同输入需求,配合label、required、placeholder提升可用性,结合textarea、select、button等控件实现完整交互,是…

    2026年5月10日
    000
  • 网站标题关键词更新后,搜索引擎为何仍显示旧标题?

    网站标题更新后,搜索引擎为何显示旧标题? 网站SEO优化中,站长常修改网站标题关键词,期望搜索结果显示自定义标题。然而,即使更新标签、meta keywords、meta description和结构化数据中的name属性后,搜索结果仍显示旧标题,这令人费解。本文将对此进行解释。 问题:站长修改了网…

    2026年5月10日
    100
  • 创建指定大小并填充特定数据的Golang文件教程

    本文将介绍如何使用Golang创建一个指定大小的文件,并用特定数据填充它。我们将使用 `os` 包提供的函数来创建和截断文件,从而实现快速生成大文件的目的。示例代码展示了如何创建一个10MB的文件,并将其填充为全零数据。掌握这些方法,可以方便地在例如日志系统或磁盘队列等场景中,预先创建测试文件或初始…

    2026年5月10日
    000
  • Python命令怎样使用profile分析脚本性能 Python命令性能分析的基础教程

    使用Python的cProfile模块分析脚本性能最直接的方式是通过命令行执行python -m cProfile your_script.py,它会输出每个函数的调用次数、总耗时、累积耗时等关键指标,帮助定位性能瓶颈;为进一步分析,可将结果保存为文件python -m cProfile -o ou…

    2026年5月10日
    000
  • 如何插入查询结果数据_SQL插入Select查询结果方法

    如何插入查询结果数据_SQL插入Select查询结果方法如何插入查询结果数据_SQL插入Select查询结果方法如何插入查询结果数据_SQL插入Select查询结果方法如何插入查询结果数据_SQL插入Select查询结果方法

    使用INSERT INTO…SELECT语句可高效插入数据,通过NOT EXISTS、LEFT JOIN、MERGE语句或唯一约束避免重复;表结构不一致时可通过别名、类型转换、默认值或计算字段处理;结合存储过程可提升可维护性,支持参数化与动态SQL。 将查询结果数据插入到另一个表中,可以…

    2026年5月10日 用户投稿
    000
  • 使用 WebCodecs VideoDecoder 实现精确逐帧回退

    本文档旨在解决在使用 WebCodecs VideoDecoder 进行视频解码时,实现精确逐帧回退的问题。通过比较帧的时间戳与目标帧的时间戳,可以避免渲染中间帧,从而提高用户体验。本文将提供详细的解决方案和示例代码,帮助开发者实现精确的视频帧控制。 在使用 WebCodecs VideoDecod…

    2026年5月10日
    000
  • Debian Copilot的社区活跃度如何

    debian copilot是codeberg社区维护的ai助手,旨在为debian用户提供服务。尽管搜索结果中没有直接提供关于debian copilot社区支持活跃度的具体数据,但我们可以通过debian社区的整体活跃度和特点来推断其活跃性。 Debian社区的一般情况: Debian拥有详尽的…

    2026年5月10日
    000
  • Discord.py 交互按钮超时与持久化解决方案

    本教程旨在解决Discord.py中交互按钮在一段时间后出现“This Interaction Failed”错误的问题。我们将深入探讨视图(View)的超时机制,并提供通过正确设置timeout参数以及利用bot.add_view()方法实现按钮持久化的具体方案,确保您的机器人交互功能稳定可靠,即…

    2026年5月10日
    000

发表回复

登录后才能评论
关注微信