自动记录MySQL慢查询快照脚本

写这个脚本的初衷是在使用阿里云rds的过程中,数据库出现异常,需要快速恢复。网上有许多类似的kill脚本,都是通过 mysqladmin 实现的。然而 ali-rds 环境有以下限制:

不提供 SUPER 权限的用户,也就是用户只能 kill 自己的线程

当连接数暴增时,外部用户无法登陆,包括控制台

为了解决上午2大问题,该 python 脚本通过在db实例上,使用多线程的方式,为每个用户保留一个连接,并实时读取指令配置文件 mysqk.ini,发现有 kill 需求时,利用对应用户已有连接找到 information_schema.processlist 中符合条件的线程,并 kill 。

说明:该脚本在9月份做过一次重写,7月份的版本(分支 old_0.5.0)是每实例每用户,对应一个线程,db实例一多线程数也太多,看得始终不太优雅,于是改成了一个db实例一个线程,维护同时维护多个用户的会话。同时新版也加入了更多的功能,如按时间窗口检查,包含或排除特定连接,邮件通知,配置项覆盖。

特性

始终通过 mysql ping 维持一个长连接,并有断开自动重来机制,解决没有连接可用的尴尬局面

每个db实例有自己的线程,避免需要单独登陆个别用户去kill的繁复操作。如果你具有 SUPER 权限,也可以简化配置做到兼容

能够分开应对需要杀死线程的场景:

长时间运行超过 N 秒的

Sleep 状态的事务 (一般不建议,但有时候kill它,可以快速释放连接给管理员使用)

排除一些线程不能kill,如 Binlog dump

包含特定关键字的线程要kill

出现符合条件的线程时,会对当时的processlist, engine status,lock_wait 做一个快照,并邮件发出

有试运行dry_run模式,即执行所有的检查过程但不真正kill

支持只在时间窗口内运行,考虑到晚上一些长任务不检查

密码加密

快速使用

需要pip安装MySQL-python和pycrypto两个库,只在python 2.7上有测试。

在 settings.py 里面设置连接的用户名和密码信息。这里假设同一批db的要check的认证信息是一样的,指定的用户既用于登录认证,也用于告知脚本哪些用户需要被检查。
密码要通过 prpcryptec.py 加密,加密的密钥需写入脚本本身的 KEY_DB_AUTH变量。(担心泄露的话,把mysqk.py编译成 pyc 来跑)

在 mysqk.ini 主配置文件里面

db_info 节设置需要被检查的数据库地址,如 db01=10.0.200.100:3306

可分别 db01等指定需要kill thread的选项。[id_db01] 则默认复用 [db_commkill] 的选项

db_comconfig 节设置 db_puser 为能查看到所有processlist的权限用户,且在 settings.py 的DB_AUTH中已指定

只想执行检查,并不想真正kill异常线程,确认 dry_run不等于0

Here we go!

配置项说明

mysqk.ini:

mail_config

邮件通知相关设置,smtp服务地址和认证信息。
mail_receiver= 设置空,表示不发邮件

db_info

青泥AI 青泥AI

青泥学术AI写作辅助平台

青泥AI 302 查看详情 青泥AI

设置要检查kill哪些数据库实例.
格式:=:,dbid是唯一表示db实例的,后面设置各db需要被kill的选项,小节配置名就是 id_;端口必需指定。

在这里出现的db实例都会被执行检查,可用 ; 注释,但需要重启脚本。

db_comconfig

检查用公共配置,实时生效。

db_puser:指定一个用户名用于 show processlist,需要的权限:PROCESS、information_schema库查看。可以认为是一个代表用户,检查异常thread,把结果提供给有该thread杀掉权限用户。

run_max_count:执行检查的次数,是一个全局控制开关。每次修改这个值都会重新开始检查,即一个 clean start,让刚修改的配置生效。

为 0 表示脚本不进行任何检查,只简单维护与数据库的连接存活。存活检查频率在 settings.py 由 CHECK_CONFIG_INTERVAL × CHECK_PING_MULTI决定

为 999 表示会在后台一致检查连接线程(但不一定有符合kill条件的),检查的频率在 settings.py 里面 CHECK_CONFIG_INTERVAL 指定

为其它值时,表示检查次数满后停止检查

dry_run:是否开启试运行模式,为0表示真实kill,为1或其它值表示试运行。试运行模式可用于监控慢查询并告警。注意同一会话线程ID只告警一次

run_time_window:运行的检查的时间窗口,格式如 08:00-22:00,在这个时间以外不执行检查,留空表示不限制。主要考虑晚上一些统计任务可能出现“异常”线程。

db_commkill

kill用公共配置,实时生效,会被 id_ 节的选项覆盖。

k_user:很关键的一个选项,表示你要检查并kill哪些数据库用户,多个用逗号分隔(不要带引号)。 
为 all 时,表示要检查 settings.py 里 DB_AUTH 指定的所有用户

为 none 时,表示不kill任何异常线程,效果与设置了 dry_run 模式相当

k_longtime:执行超过设定值的sql则认为异常。一般大于 CHECK_CONFIG_INTERVAL

k_sleep:Sleep超过设定秒的sql则认为异常,为 0 表示不杀掉sleep状态的线程

k_exclude:排除掉那些特定关键字的线程,比如复制线程、管理员的连接等

k_include:包含这些特定关键字的线程,需要被kill。注意,它作用在满足 k_user 和 k_exclude 的前提之下。 
k_exclude与k_include 的值是支持python re模块正则的格式,不要带引号

id_dbid

这部分区域的配置项与 db_commconfig 相同,用于针对个别db的kill选项。

使用建议

两种组合模式:

设置 dry_run=0,默认 k_user=none,当数据库出现异常时,主动修改对应db的k_user值,动态kill

设置 dry_run=1,默认 k_user=all,相当于运行在daemon模式,有慢查询则邮件通知,并且记录下当时的信息

当然你也可以dry_run=0,k_user=all,让程序一直在后台跑并kill,但生产环境极不推荐。

有日志和快照文件可以查看。

配置文件示例

mysqlk.ini :

[mail_config]mail_host=smtp.exmail.qq.commail_user=xxx@ecqun.commail_pass=xxxxxxmail_receiver=[db_info]crm0=192.168.1.125:3306crm1=192.168.1.126:3306crm2=192.168.1.127:3306crm3=192.168.1.128:3306base=10.0.200.142:3306[db_commconfig]db_puser=ecuser; how many kill times once this config file changed; 0: DISABLE all kill; 999: always kill threads that meet kill conditions; default: 1; can not be inheritrun_max_count=999dry_run=1

[mail_config]mail_host=smtp.exmail.qq.commail_user=xxx@ecqun.commail_pass=xxxxxxmail_receiver=[db_info]crm0=192.168.1.125:3306crm1=192.168.1.126:3306crm2=192.168.1.127:3306crm3=192.168.1.128:3306base=10.0.200.142:3306[db_commconfig]db_puser=ecuser; how many kill times once this config file changed; 0: DISABLE all kill; 999: always kill threads that meet kill conditions; default: 1; can not be inheritrun_max_count=999dry_run=1run_time_window=08:00-22:00[db_commkill]k_user=allk_longtime=10k_lock=1k_sleep=0k_exclude=Binlog|ecdba|Daemonk_include=select sleep(17)[id_crm0]; k_user: who's threads to be killed. use comma to separate;         none: do not kill anyone's threads;         all: kill all user's threads (with other where conditions); default: nonek_user=all; k_longtime: filter the threads who's running time is longer than this;             0: ignore the time > x  condition; default: 10k_longtime=10; k_sleep: whether kill sleepd threads or not;          0: do not kill command='Sleep' threads from processlist;          when it set to 1, usually it's subset of k_longtime condition; default: 0k_sleep=0[id_crm1]k_user=ecuserk_longtime=10k_sleep=0[id_crm2]k_user=allk_longtime=10k_sleep=0[id_crm3]

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1082384.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月2日 19:13:09
下一篇 2025年12月2日 19:13:40

相关推荐

  • 当黄金领涨时 我们为何仍坚定配置比特币(BTC)?一文了解

    Binance币安 欧易OKX ️ Huobi火币️ 今年以来,黄金风头一时无两——在贸易摩擦、美债波动、地缘紧张的多重扰动下,黄金一举跑赢了比特币、纳指和所有主流大类资产,「王者归来」的呼声再起,年内涨幅已超过 50%。而相比之下,近年逐渐获得避险属性的「链上黄金」比特币仅上涨约 15%。这一明显…

    2025年12月11日 好文分享
    000
  • 从去信任的比特币(BTC)到代币化的黄金 谁才是真正的「数字黄金」?

    Binance币安 欧易OKX ️ Huobi火币️ 最近你身边讨论「黄金」的人,是不是越来越多了? 对,我说的就是物理意义上的黄金。伴随着地缘政治风险和全球宏观经济不确定性的增加,黄金总市值(一度)站上 30 万亿美元,稳坐全球资产的头把交椅。 与此同时,Crypto 世界也在发生一件颇有意思的事…

    2025年12月11日 好文分享
    000
  • Meme市场结构性转移深度分析:Solana退潮与BSC链上资金重塑

    Binance币安 %ignore_a_2%OKX ️ Huobi火币️ 一、中文meme强势崛起:币安引爆“币安人生”文化风暴 2025年10月初,币安联合创始人何一在社交平台一句“祝你享币安人生”意外点燃中文加密圈的创作激情,迅速演化为席卷市场的“币安人生”meme风潮。这一现象级话题在社区裂变…

    2025年12月11日
    000
  • x402是什么?x402概念币的暴涨是否真有意义?

    最近两天,x402 %ignore_a_1%的总市值已迅速突破 1 亿美元,仿佛在一夜之间引爆市场——尽管这项协议实际上数月前就已悄然发布。 Binance币安 欧易OKX ️ Huobi火币️ 为了搞清楚这究竟是又一场AI泡沫下的“快速变现”故事,还是真能重塑AI Agent与互联网交互方式的技术…

    2025年12月11日
    000
  • 100%胜率巨鲸是如何炼成的?揭秘特 朗普派内幕人士真实身份

    如果有人告诉你,自己能够 100% 押中市场大盘走向,你信吗? Binance币安 欧易OKX ️ Huobi火币️ 我反正不信,但现实中确实存在这样的人——在过去的 10 天内,某巨鲸精准押中了近期市场的每一次转向,甚至达成 12 连胜,累计获利超 1260 万美元,而他的制胜关键,总是与美国总统…

    2025年12月11日
    000
  • 什么是“空投”(Airdrop)?免费获取新币的福利

    什么是空投? 空投是一种市场营销活动,项目方通过向现有的加密货币持有者免费分发其新发行的代币。这种分发通常是基于某些预设的条件,例如持有某种特定的加密货币、参与某个区块链网络的活动、或者在社交媒体上进行推广等。空投的本质是一种用户获取和品牌建设的手段,它能够快速地将项目信息传递给潜在用户,并激励他们…

    好文分享 2025年12月11日
    000
  • 抹茶注册账号步骤详解_抹茶MEXC新用户注册验证的完整指南

    %ignore_a_1%币安交易所 注册入口: APP下载: 欧易OKX交易所 注册入口: APP下载: 火币HTX交易所: 注册入口: APP下载: 本指南旨在为新用户提供一份清晰、详尽的MEXC(原抹茶)平台账户注册与身份验证流程。通过遵循以下步骤,您可以轻松快速地完成账户创建,开启您的数字资产…

    2025年12月11日
    000
  • 什么APP购买比特币安全?比特币购买APP地址汇总

    选择一个安全可靠的数字资产交易app是保障资金安全的第一步。本文将为您介绍几个全球范围内广受认可的平台,并提供关键的安全选择标准,帮助您做出明智决策。 一、选择安全平台的关键标准 1、监管与合规:优先选择在多个国家或地区获得合规许可的平台,这意味着它们受到更严格的监管,用户资金更有保障。 2、安全技…

    好文分享 2025年12月11日
    000
  • 币圈sss币是什么币?sss币购买渠道有哪些?

    binance币安交易所 注册入口: APP下载: 欧易OKX交易所 注册入口: APP下载: 火币HTX交易所: 注册入口: APP下载: 本文旨在清晰介绍数字资产SSS的核心概念,并梳理其主流的获取渠道。通过阅读,您将了解SSS在StarSharks生态系统中的定位以及如何参与其中。 一、SSS…

    好文分享 2025年12月11日
    000
  • iExec RLC(RLC)币解析与未来展望

    iExec RLC(RLC)币解析与未来展望 在区块链技术日益发展的今天,去中心化云计算作为一个新兴领域,正吸引着越来越多的关注。iexec rlc(rlc)作为该领域的先驱项目,旨在构建一个去中心化的云计算资源市场。本文将深入解析iexec rlc的项目背景、技术特点、代币经济,并探讨其未来发展的…

    好文分享 2025年12月11日
    000
  • MasterBOT (BOT)币是什么?能成为下一个AI 加密巨头吗?2025–2030年价格预测

    MasterBOT 是什么? MasterBOT是一项基于Web3的创新计划,全球用户共同参与训练前沿人工智能,专为现实机器人提供智能支持。 它解决了机器人领域最棘手的问题——AI训练效率,借助高速虚拟仿真技术实现突破。你可以将其理解为一场构建“机器人大脑”的游戏,正为机器人产业的经济爆发铺路。 为…

    2025年12月11日 好文分享
    000
  • 如何安全地购买比特币?主流交易平台安全性对比

    面对众多的加密货币交易平台,选择一个安全可靠的入口是投资比特币的第一步。本文将详细对比分析主流交易平台的安全性,帮助您了解如何安全地购买和持有比特币,并为您推荐值得信赖的平台。 主流比特币交易平台安全性排名 1. 币安 (Binance) 作为全球交易量最大的加密货币交易所,币安在安全方面投入了巨大…

    2025年12月11日
    000
  • 币安生态币BNB走势预测|CZ事件是否带来新机遇?

    Binance币安 欧易OKX ️ Huobi火币️ CZ特赦利好币安? CZ(Changpeng Zhao)于2025年10月23日获特朗 普特赦后,币安生态情绪显著回暖,BNB价格短期上涨3.6%-5.13%,突破$1,121 USD。 这标志着币安从监管阴霾中解脱,社区视其为“altseaso…

    2025年12月11日
    000
  • 币安BNB是什么币?项目简介与生态价值剖析

    Binance币安 欧易OKX ️ Huobi火币️ 币安BNB是什么币? BNB(Binance Coin)是币安(Binance)生态系统的原生代币,于2017年推出,最初作为ERC-20代币发行,后迁移至BNB Chain(原Binance Smart Chain)。BNB用于支付币安平台手续…

    2025年12月11日
    000
  • BNB投资价值分析|特赦事件后的长期布局思路

    Binance币安 欧易OKX ️ Huobi火币️ BNB投资价值分析 BNB(Binance Coin)作为币安生态的核心代币,目前(2025年10月24日)价格约为$1,135 USD,24小时涨幅+4.1%,市值$1,600亿美元。投资价值源于其低费高性能的BNB Chain生态和销毁机制,…

    2025年12月11日
    000
  • 加密市场陷阱有哪些?如何避免?加密市场中牛市与熊市陷阱识别与避免指南

    学习使用资金、未平仓合约和成交量信号识别加密货币中的假突破,并避免牛市和熊市陷阱设置。 Binance币安 欧易OKX ️ Huobi火币️ 关键要点: 使用确认而非希望:等待更高时间框架的收盘和清晰的回测后再加仓。解读杠杆信号:极端的资金费率加上关键水平的未平仓合约增加,表明相反方向的陷阱风险。不…

    好文分享 2025年12月11日
    000
  • 币安今日(24日) 币安alpha空投代币分析

    Binance币安 欧易OKX ️ Huobi火币️ 项目名称:APRO Oracle 代币:$AT 融资金额:300万美元 上线日期:10月24日,官方已确认 空投详情:即将公布 空投门槛:中高(210-246分) 预计金额:60美金~120美金 领取方式:下午公布 项目介绍:APRO Oracl…

    2025年12月11日
    000
  • PAXG稳定币怎么兑换黄金_PAXG稳定币如何兑换黄金实物提取步骤

    PAX Gold(PAXG)是一种与实物黄金价值挂钩的数字资产,一枚PAXG代币代表一金衡盎司存放在专业金库中的伦敦合格交割金条。本文将为您详细介绍如何通过官方渠道,将您持有的PAXG代币兑换为实物黄金或未分配的黄金所有权。 一、兑换前的核心准备 1、完成官方账户验证:您必须在发行方Paxos的官方…

    2025年12月11日
    000
  • 链上分析工具推荐 哪些免费网站能实时显示交易所资金流向?

    在瞬息万变的数字资产市场中,链上分析工具和交易所资金流向的实时监测正成为投资者洞察市场动态、制定投资策略的关键。随着区块链技术的日益成熟,大量公开可查的数据为我们提供了前所未有的市场透明度。从识别鲸鱼(大户)的动向到预警潜在的市场风险,这些工具不仅揭示了资金在不同平台间的流动轨迹,还能帮助我们理解市…

    2025年12月11日
    000
  • CZ回归后币安版图将如何扩张?BNB或成核心资产

    Binance币安 欧易OKX ️ Huobi火币️ CZ回归后币安版图扩张展望 CZ(Changpeng Zhao)于2025年10月23日获特朗 普特赦后,币安生态情绪显著回暖,BNB价格短期上涨3.6%-5.13%,突破$1,121 USD。 CZ回归标志着币安从监管阴霾中解脱,预计将加速全球…

    2025年12月11日
    000

发表回复

登录后才能评论
关注微信