技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因

作者:郭斌斌

爱可生 DBA 团队成员,负责项目日常问题处理及公司平台问题排查。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。

一、背景

客户反馈在生产环境中,MySQL 5.7 使用 xtrabackup 和 Binlog 进行基于时间点的恢复操作时,卡在 Binlog 的回放阶段,时间漫长,令人怀疑这种操作的合理性。因此,本文进行了 Binlog 回灌验证操作。

二、复现前提MySQL 版本:5.7.22

Binlog 格式:Row

准备删除 800 多万记录的 Binlog

三、复现准备3.1 创建表、构造数据

mysql> create table t1(id int primary key,name varchar(10));Query OK, 0 rows affected (0.02 sec)mysql> insert into t1 values(1,repeat('a',10));Query OK, 1 row affected (0.01 sec)mysql> insert into t1 select (select count(1) from t1)+id,name from t1;Query OK, 1 row affected (0.01 sec)Records: 1  Duplicates: 0  Warnings: 0………………mysql> insert into t1 select (select count(1) from t1)+id,name from t1;Query OK, 4194304 rows affected (57.75 sec)Records: 4194304  Duplicates: 0  Warnings: 0

3.2 准备删除 800 多万记录的 Binlog 文件

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因MySQL Binlog mysql-bin.000003 用于回灌测试

3.3 由于 Binlog 的回灌和造数是在同一个实例上,之前为了构建删除 800 多万记录的 Binlog,已经将数据删除,因此在进行 binlog 回灌前,需要使用之前造数的方法,重新造数

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因3.4 在同一个实例上先进行了删除操作,又重新构建新的数据。导致删除操作的 GTID 比重新造数操作的 GTID 小,为保证可以正常回灌,可以执行 reset master

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因四、复现测试4.1 解析 MySQL Binlog mysql-bin.000003

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因4.2 导入解析文件

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因4.3 查看 processlist,发现导入线程一直处于 Sleep 状态,现象与客户描述一致。

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因4.4 随即中断导入操作,重新发起导入同时使用 strace 记录操作的行为。

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因4.5 通过观测产生的 strace.log,发现两个 read 的时间间隔不固定,少的也需要140ms左右,而读取的大小却只有4k(4096),读取效率偏低。

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因五、分析通过 Google 搜索“MySQL Mem Load Slow”,发现这是一个已知的 BUG,MySQL 5.7 Client 在读取较大事务(涉及多行操作)时,由于内存分配效率低,导致消耗大量时间,已在 MySQL 8.0.13 中修复。

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因六、复测6.1 使用 MySQL 8.0.18 客户端进行 Binlog 解析文件的回灌,提示 MySQL Server has gone away

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因6.2 导数报错时数据库未触发重启,查看 error 日志,有如下报错:

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因6.3 调大 max_allowed_packet 配置后重新测试

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因6.4 观测 strace 日志,每次读取 Binlog 大小为16M,远高于原来的4k

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因6.5 观测线程状态

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因6.6 观察执行耗时,MySQL 8.0.18 客户端导数时间变短,效率提升明显。

技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因七、结论目前官方在 MySQL 8.0.13 版本中,已解决“使用 MySQL Client 进行批量导数时,内存分配效率低”的问题。因此,MySQL 8.0.18 客户端在进行回灌 Binlog 解析后的文件时,读取文件效率明显高于 5.7.22 的客户端,提升了 Binlog 回放的效率。

参考链接https://www.php.cn/link/251b4805008712ec04e69c6569bfb189

https://www.php.cn/link/b16a9e8de58c95b427b29472b1eca130

以上就是技术分享 | MySQL Binlog 通过 MySQL 客户端导入数据库效率低的原因的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/33038.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
微软 Win11 Recall“记忆”AI 功能初体验:性能迅捷、无明显延迟
上一篇 2025年11月4日 08:38:36
Java中如何替换字符串 掌握replace和replaceAll的区别
下一篇 2025年11月4日 08:38:39

相关推荐

  • 深入理解MySQL触发器的参数设置

    深入理解MySQL触发器的参数设置深入理解MySQL触发器的参数设置深入理解MySQL触发器的参数设置深入理解MySQL触发器的参数设置

    MySQL 触发器是一种在数据库表中定义的一系列操作,当满足特定条件时自动触发执行。触发器可以在 insert、update 或 delete 操作前或后执行一些特定的SQL语句,以实现数据变化时的自动化处理。触发器的参数设置对于正确的使用和效率优化非常重要,本文将深入探讨MySQL触发器的参数设置…

    2026年9月26日 • 用户投稿
    100
  • AO3中文版官网入口 AO3网页版使用方法保姆级教程

    AO3中文版官网入口为https://archiveofourown.org,进入后点击右上角“语言”选择“中文(简体)”或“中文(繁体)”即可切换界面。 AO3中文版官网入口在哪里?这是不少网友都关注的,接下来由PHP小编为大家带来AO3网页版使用方法保姆级教程,感兴趣的网友一起随小编来瞧瞧吧! …

    2026年9月26日
    100
  • 《最终幻想》手游《最终幻想:勇气启示录》官宣停服!之后计划发布纪念版本

    《最终幻想》手游《最终幻想:勇气启示录》官宣停服!之后计划发布纪念版本《最终幻想》手游《最终幻想:勇气启示录》官宣停服!之后计划发布纪念版本《最终幻想》手游《最终幻想:勇气启示录》官宣停服!之后计划发布纪念版本《最终幻想》手游《最终幻想:勇气启示录》官宣停服!之后计划发布纪念版本

    今日,se官方宣布旗下《最终幻想》系列手游《最终幻想:勇气启示录 幻影战争》日服将于2025年10月31日中午11点正式终止运营。 官方表示,在正式停服前将推出“盛大落幕活动”,以此感谢长期以来支持游戏的玩家们。停运后,开发团队计划推出一款纪念版本,仅限Apple和Google平台上线,供玩家留念。…

    2026年9月25日 • 用户投稿
    100
  • 外键在MySQL数据库中的重要性和实践意义

    外键在MySQL数据库中的重要性和实践意义外键在MySQL数据库中的重要性和实践意义外键在MySQL数据库中的重要性和实践意义外键在MySQL数据库中的重要性和实践意义

    外键在MySQL数据库中的重要性和实践意义 在MySQL数据库中,外键(Foreign Key)是一种用来建立不同表之间关联关系的重要约束。外键约束确保了表与表之间的数据一致性和完整性,能够有效避免不正确的数据插入、更新或删除操作。 一、外键的重要性: 降重鸟 要想效果好,就用降重鸟。AI改写智能降…

    2026年9月25日 • 用户投稿
    200
  • 获取物品名称并转换为字符串时出现乱码的解决方案

    获取物品名称并转换为字符串时出现乱码的解决方案获取物品名称并转换为字符串时出现乱码的解决方案获取物品名称并转换为字符串时出现乱码的解决方案获取物品名称并转换为字符串时出现乱码的解决方案

    本文旨在解决在 Minecraft Spigot 插件开发中,获取玩家放置的物品名称并尝试将其转换为字符串时出现乱码的问题。通过分析问题原因,并提供正确的代码示例,帮助开发者避免类似错误,从而更有效地获取玩家名称。 在 Spigot 插件开发中,当玩家放置方块时,我们可能需要获取该方块对应的玩家名称…

    2026年9月25日 • 用户投稿
    100
  • Bukkit插件开发:正确处理物品显示名称与玩家识别

    Bukkit插件开发:正确处理物品显示名称与玩家识别Bukkit插件开发:正确处理物品显示名称与玩家识别Bukkit插件开发:正确处理物品显示名称与玩家识别Bukkit插件开发:正确处理物品显示名称与玩家识别

    本文旨在解决Bukkit插件开发中,从BlockPlaceEvent获取物品显示名称并将其用于玩家识别时常见的“乱码”问题。我们将深入探讨Component对象与纯文本字符串的区别,并提供两种核心解决方案:直接获取放置方块的玩家名称,以及如何正确地将Component转换为纯文本字符串,以避免不必要…

    2026年9月25日 • 用户投稿
    300
  • MySQL中ibd文件的作用和特点详解

    MySQL中ibd文件的作用和特点详解MySQL中ibd文件的作用和特点详解MySQL中ibd文件的作用和特点详解MySQL中ibd文件的作用和特点详解

    MySQL中ibd文件的作用和特点详解 在MySQL数据库中,每个InnoDB表都对应一个.ibd文件,这个文件是InnoDB存储引擎用来存储表的数据和索引的地方。ibd文件是InnoDB表空间的一部分,它和.ibdata文件一起组成了InnoDB的表空间。 作用: 存储表的数据和索引:ibd文件是…

    2026年9月25日 • 用户投稿
    200
  • 3D漫画在线阅读漫画入口 3D漫画免费漫画正版漫画在线浏览

    3D漫画在线阅读漫画入口 3D漫画免费漫画正版漫画在线浏览3D漫画在线阅读漫画入口 3D漫画免费漫画正版漫画在线浏览3D漫画在线阅读漫画入口 3D漫画免费漫画正版漫画在线浏览3D漫画在线阅读漫画入口 3D漫画免费漫画正版漫画在线浏览

    3D漫画在线阅读入口是https://www.3dmanhua.com/,该平台资源丰富、更新及时,提供高清流畅的阅读体验和简洁易用的操作界面,并支持个性化推荐、书架管理及夜间模式等贴心功能。 3D漫画在线阅读入口在哪里?这是不少网友都关注的,接下来由PHP小编为大家带来3D漫画在线阅读浏览地址,喜…

    2026年9月25日 • 用户投稿
    200
  • 自媒体如何利用节日营销_利用节日进行自媒体营销的实用方法

    自媒体如何利用节日营销_利用节日进行自媒体营销的实用方法自媒体如何利用节日营销_利用节日进行自媒体营销的实用方法自媒体如何利用节日营销_利用节日进行自媒体营销的实用方法自媒体如何利用节日营销_利用节日进行自媒体营销的实用方法

    节日营销需提前策划主题内容、打造专属视觉风格、发起互动活动、联合账号推广并推出限时福利,通过预热内容、统一设计、用户参与、跨界合作与专属优惠增强粉丝粘性并扩大影响力。 当节日临近时,用户对相关内容的关注度显著提升,自媒体平台上的互动和流量通常会出现明显增长。抓住这一时机进行有针对性的内容策划与推广,…

    2026年9月25日 • 用户投稿
    000
  • 苹果壁纸设计网页正版访问_苹果壁纸设计网页直达入口

    苹果壁纸设计网页正版访问_苹果壁纸设计网页直达入口苹果壁纸设计网页正版访问_苹果壁纸设计网页直达入口苹果壁纸设计网页正版访问_苹果壁纸设计网页直达入口苹果壁纸设计网页正版访问_苹果壁纸设计网页直达入口

    苹果壁纸设计网页正版访问入口是http://eyu.zaixian-fanyi.com/fan_wei_13269529,该平台提供海量高清壁纸、支持用户上传分享、内置编辑工具并定期更新主题内容,界面简洁流畅,支持一键收藏与多设备同步,同时整合设计模板、贴纸素材与艺术字体,提升创作灵活性。 苹果壁纸…

    2026年9月25日 • 用户投稿
    100
  • PL/SQL在MySQL中的替代方案

    PL/SQL在MySQL中的替代方案PL/SQL在MySQL中的替代方案PL/SQL在MySQL中的替代方案PL/SQL在MySQL中的替代方案

    PL/SQL是Oracle数据库中常用的过程化编程语言,用于编写存储过程、触发器、函数等数据库对象。在MySQL数据库中,并没有直接的PL/SQL支持,但可以通过使用存储过程和触发器来实现类似功能。本文将介绍在MySQL中实现类似PL/SQL功能的替代方案,并附带具体的代码示例。 一、存储过程 在M…

    2026年9月25日 • 用户投稿
    000
  • MBTI测试免费入口网址_ MBTI官网免费测试网站链接

    MBTI测试免费入口网址_ MBTI官网免费测试网站链接MBTI测试免费入口网址_ MBTI官网免费测试网站链接MBTI测试免费入口网址_ MBTI官网免费测试网站链接MBTI测试免费入口网址_ MBTI官网免费测试网站链接

    MBTI测试免费入口网址是https://www.16personalities.com/,该网站提供无需注册即可参与的近百道题人格测试,耗时约10至15分钟,支持中文界面并可导出PDF报告。 MBTI测试免费入口网址在哪里?这是不少朋友都在寻找的,接下来由PHP小编为大家带来MBTI官网免费测试网…

    2026年9月25日 • 用户投稿
    400
  • sublime怎么运行php文件 _sublime PHP文件运行方法

    sublime怎么运行php文件 _sublime PHP文件运行方法sublime怎么运行php文件 _sublime PHP文件运行方法sublime怎么运行php文件 _sublime PHP文件运行方法sublime怎么运行php文件 _sublime PHP文件运行方法

    首先确保PHP已安装并加入环境变量,然后在Sublime Text中创建PHP构建系统:通过Tools → Build System → New Build System…添加对应操作系统的JSON配置,保存为PHP.sublime-build至User目录;接着打开.php文件按Ctrl+ B或C…

    2026年9月25日 • 用户投稿
    100
  • sublime怎么配置PHP CS Fixer进行代码格式化_sublime使用PHP CS Fixer自动格式化代码教程

    sublime怎么配置PHP CS Fixer进行代码格式化_sublime使用PHP CS Fixer自动格式化代码教程sublime怎么配置PHP CS Fixer进行代码格式化_sublime使用PHP CS Fixer自动格式化代码教程sublime怎么配置PHP CS Fixer进行代码格式化_sublime使用PHP CS Fixer自动格式化代码教程sublime怎么配置PHP CS Fixer进行代码格式化_sublime使用PHP CS Fixer自动格式化代码教程

    首先安装PHP CS Fixer工具并将其放置于系统指定目录,确保PHP环境正常;接着在Sublime Text中通过Package Control安装PHP CS Fixer插件;然后在插件设置中配置php_cs_fixer_exec_path和php_path指向正确的PHAR文件和PHP可执行…

    2026年9月25日 • 用户投稿
    200
  • MySQL是否区分大小写?

    MySQL是否区分大小写?MySQL是否区分大小写?MySQL是否区分大小写?MySQL是否区分大小写?

    MySQL是否区分大小写?需结合代码示例详细分析 MySQL是一种流行的关系型数据库管理系统,被广泛用于各种应用程序的数据存储和管理。在MySQL中,是否区分大小写是一个常见的问题,对于开发人员来说,了解MySQL的大小写区分规则非常重要,可以避免出现不必要的问题。 在MySQL中,根据不同的设置,…

    2026年9月25日 • 用户投稿
    100
  • 1688阿里巴巴官方网站 1688阿里巴巴新品快订入口

    1688阿里巴巴官方网站 1688阿里巴巴新品快订入口1688阿里巴巴官方网站 1688阿里巴巴新品快订入口1688阿里巴巴官方网站 1688阿里巴巴新品快订入口1688阿里巴巴官方网站 1688阿里巴巴新品快订入口

    1688阿里巴巴官方网站新品快订入口为https://ding.1688.com,该平台涵盖服饰、配饰、家居日用及包装物料等丰富商品类目,支持先采后付、48小时发货、混批进货等高效交易模式,并提供新人优惠、实时成交数据展示、销售趋势提示及全网截图比价等采购优化服务。 1688阿里巴巴官方网站新品快订…

    2026年9月25日 • 用户投稿
    100
  • MySQL触发器的定义与使用方法详解

    MySQL触发器的定义与使用方法详解MySQL触发器的定义与使用方法详解MySQL触发器的定义与使用方法详解MySQL触发器的定义与使用方法详解

    MySQL触发器的定义与使用方法详解 MySQL触发器是一种特殊的存储过程,可以在表发生特定事件时自动执行。触发器可以用于实现 数据的自动化处理、数据一致性维护等功能。本文将详细介绍MySQL触发器的定义与使用方法,并提供具体的代码示例。 触发器的定义在MySQL中,触发器的定义是通过CREATE …

    2026年9月25日 • 用户投稿
    100
  • 幕布新手入门教程:从零开始创建你的第一个文档

    幕布新手入门教程:从零开始创建你的第一个文档幕布新手入门教程:从零开始创建你的第一个文档幕布新手入门教程:从零开始创建你的第一个文档幕布新手入门教程:从零开始创建你的第一个文档

    首先注册登录幕布账号,进入主界面后点击新建文档并输入标题,通过回车创建节点、Tab键调整层级,利用快捷键提升效率,最后插入待办、加粗、链接等富文本内容完成结构化笔记。 如果您刚刚开始使用幕布,想要快速上手并创建属于自己的第一份结构化文档,可以通过以下步骤完成基础操作。幕布以大纲笔记为核心,帮助用户高…

    2026年9月25日 • 用户投稿
    000
  • MySQL大小写敏感的处理方式

    MySQL大小写敏感的处理方式MySQL大小写敏感的处理方式MySQL大小写敏感的处理方式MySQL大小写敏感的处理方式

    MySQL大小写敏感的处理方式及代码示例 MySQL是一种常用的关系型数据库管理系统,它在处理大小写敏感的问题时需要特别注意。在MySQL中,默认情况下是大小写不敏感的,即不区分大小写。但有时候我们需要进行大小写敏感的处理,这时可以通过以下方法来实现。 在创建数据库、表时指定默认字符集为Bin(二进…

    2026年9月25日 • 用户投稿
    000
  • PHP三元运算符可读性差吗_PHP三元运算符优化可读性

    三元运算符可读性取决于使用方式,合理使用能提升代码简洁性。1. 基本语法为“条件 ? 值1 : 值2”,适用于简单赋值,如根据年龄判断成年与否。2. 避免嵌套,多层三元运算符应改用 if-else 或提前返回。3. 提升可读性技巧包括:将复杂条件封装为布尔变量、换行书写嵌套表达式、仅用于赋值或返回。…

    2026年9月25日
    200

发表回复

登录后才能评论
关注微信