MySQL中关于prepare原理的详解

这篇文章主要介绍了mysql prepare的相关内容,包括prepare的产生,在服务器端的执行过程,以及jdbc对prepare的处理以及相关测试,需要的朋友可以了解下。希望对大家有所帮助。

Prepare的好处 

    Prepare SQL产生的原因。首先从mysql服务器执行sql的过程开始讲起,SQL执行过程包括以下阶段 词法分析->语法分析->语义分析->执行计划优化->执行。词法分析->语法分析这两个阶段我们称之为硬解析。词法分析识别sql中每个词,语法分析解析SQL语句是否符合sql语法,并得到一棵语法树(Lex)。对于只是参数不同,其他均相同的sql,它们执行时间不同但硬解析的时间是相同的。而同一SQL随着查询数据的变化,多次查询执行时间可能不同,但硬解析的时间是不变的。对于sql执行时间较短,sql硬解析的时间占总执行时间的比率越高。而对于淘宝应用的绝大多数事务型SQL,查询都会走索引,执行时间都比较短。因此淘宝应用db sql硬解析占的比重较大。 

    Prepare的出现就是为了优化硬解析的问题。Prepare在服务器端的执行过程如下

 1)  Prepare 接收客户端带”?”的sql, 硬解析得到语法树(stmt->Lex), 缓存在线程所在的preparestatement cache中。此cache是一个HASH MAP. Key为stmt->id. 然后返回客户端stmt->id等信息。

 2)  Execute 接收客户端stmt->id和参数等信息。注意这里客户端不需要再发sql过来。服务器根据stmt->id在preparestatement cache中查找得到硬解析后的stmt, 并设置参数,就可以继续后面的优化和执行了。

    Prepare在execute阶段可以节省硬解析的时间。如果sql只执行一次,且以prepare的方式执行,那么sql执行需两次与服务器交互(Prepare和execute), 而以普通(非prepare)方式,只需要一次交互。这样使用prepare带来额外的网络开销,可能得不偿失。我们再来看同一sql执行多次的情况,比如以prepare方式执行10次,那么只需要一次硬解析。这时候  额外的网络开销就显得微乎其微了。因此prepare适用于频繁执行的SQL。

    Prepare的另一个作用是防止sql注入,不过这个是在客户端jdbc通过转义实现的,跟服务器没有关系。
硬解析的比重

   压测时通过perf 得到的结果,硬解析相关的函数比重都比较靠前(MYSQLparse 4.93%, lex_one_token 1.79%, lex_start 1.12%)总共接近8%。因此,服务器使用prepare是可以带来较多的性能提升的。

jdbc与prepare 

  jdbc服务器端的参数:

   useServerPrepStmts:默认为false. 是否使用服务器prepare开关

 jdbc客户端参数:

   cachePrepStmts:默认false.是否缓存prepareStatement对象。每个连接都有一个缓存,是以sql为唯一标识的LRU cache. 同一连接下,不同stmt可以不用重新创建prepareStatement对象。

  prepStmtCacheSize:LRU cache中prepareStatement对象的个数。一般设置为最常用sql的个数。

  prepStmtCacheSqlLimit:prepareStatement对象的大小。超出大小不缓存。

 Jdbc对prepare的处理过程: 

useServerPrepStmts=true时Jdbc对prepare的处理

  1)  创建PreparedStatement对象,向服务器发送COM_PREPARE命令,并传送带问号的sql. 服务器返回jdbc stmt->id等信息

  2)  向服务器发送COM_EXECUTE命令,并传送参数信息。

 useServerPrepStmts=false时Jdbc对prepare的处理

  1)  创建PreparedStatement对象,此时不会和服务器交互。

  2) 根据参数和PreparedStatement对象拼接完整的SQL,向服务器发送QUERY命令

  我们再看参数cachePrepStmts打开时在useServerPrepStmts为true或false时,均缓存PreparedStatement对象。只不过useServerPrepStmts为的true缓存PreparedStatement对象包含服务器的stmt->id等信息,也就是说如果重用了PreparedStatement对象,那么就省去了和服务器通讯(COM_PREPARE命令)的开销。而useServerPrepStmts=false是,开启cachePrepStmts缓存PreparedStatement对象只是简单的sql解析信息,因此此时开启cachePrepStmts意义不是太大。

我们来开看一段java代码 

Connection con = null;      PreparedStatement ps = null;      String sql = "select * from user where id=?";      ps = con.prepareStatement(sql);            ps.setInt(1, 1);‍‍            ps.executeQuery();            ps.close();            ps = con.prepareStatement(sql);            ps.setInt(1, 3);            ps.executeQuery();            ps.close();

这段代码在同一会话中两次prepare执行同一语句,并且之间有ps.close();

    useServerPrepStmts=false时,服务器会两次硬解析同一SQL。

百度文心百中 百度文心百中

百度大模型语义搜索体验中心

百度文心百中 22 查看详情 百度文心百中

   useServerPrepStmts=true, cachePrepStmts=false时服务器仍然会两次硬解析同一SQL。

   useServerPrepStmts=true, cachePrepStmts=true时服务器只会硬解析一次SQL。

   如果两次prepare之间没有ps.close();那么cachePrepStmts=true,cachePrepStmts=false也只需一次硬解析. 

   因此,客户端对同一sql,频繁分配和释放PreparedStatement对象的情况下,开启cachePrepStmts参数是很有必要的。

测试

  1)做了一个简单的测试,主要测试prepare的效果和useServerPrepStmts参数的影响.    

cnt = 5000;    // no prepare    String sql = "select biz_order_id,out_order_id,seller_nick,buyer_nick,seller_id,buyer_id,auction_id,auction_title,auction_price,buy_amount,biz_type,sub_biz_type,fail_reason,pay_status,logistics_status,out_trade_status,snap_path,gmt_create,status,ifnull(buyer_rate_status, 4) buyer_rate_status from tc_biz_order_0030 where " +    "parent_id = 594314511722841 or parent_id =547667559932641;";    begin = new Date();    System.out.println("begin:" + df.format(begin));    stmt = con.createStatement();    for (int i = 0; i < cnt; i++)    {            stmt.executeQuery(sql);    }     end = new Date();    System.out.println("end:" + df.format(end));    long temp = end.getTime() - begin.getTime();    System.out.println("no perpare interval:" + temp);        // test prepare        sql = "select biz_order_id,out_order_id,seller_nick,buyer_nick,seller_id,buyer_id,auction_id,auction_title,auction_price,buy_amount,biz_type,sub_biz_type,fail_reason,pay_status,logistics_status,out_trade_status,snap_path,gmt_create,status,ifnull(buyer_rate_status, 4) buyer_rate_status from tc_biz_order_0030 where " +        "parent_id = 594314511722841 or parent_id =?;";    ps = con.prepareStatement(sql);    BigInteger param = new BigInteger("547667559932641");    begin = new Date();    System.out.println("begin:" + df.format(begin));    for (int i = 0; i < cnt; i++)    {      ps.setObject(1, param);      ps.executeQuery();     }     end = new Date();    System.out.println("end:" + df.format(end));    temp = end.getTime() - begin.getTime();    System.out.println("prepare interval:" + temp);

经多次采样测试结果如下

非prepare和prepare时间比useServerPrepStmts=true0.93useServerPrepStmts=false1.01

结论:

useServerPrepStmts=true时,prepare提升7%;

useServerPrepStmts=false时,prepare与非prepare性能相当。

如果将语句简化为select * from tc_biz_order_0030 where parent_id =?。那么测试的结论useServerPrepStmts=true时,prepare仅提升2%;sql越简单硬解析的时间就越少,prepare的提升就越少。

注意:这个测试是在单个连接,单条sql的理想情况下进行的,线上会出现多连接多sql,还有sql执行频率,sql的复杂程度等不同,因此prepare的提升效果会随具体环境而变化。

2)prepare 前后的perf top 对比 

以下为非prepare

6.46%  mysqld mysqld       [.] _Z10MYSQLparsePv   3.74%  mysqld libc-2.12.so    [.] __memcpy_ssse3   2.50%  mysqld mysqld       [.] my_hash_sort_utf8   2.15%  mysqld mysqld       [.] cmp_dtuple_rec_with_match   2.05%  mysqld mysqld       [.] _ZL13lex_one_tokenPvS_   1.46%  mysqld mysqld       [.] buf_page_get_gen   1.34%  mysqld mysqld       [.] page_cur_search_with_match   1.31%  mysqld mysqld       [.] _ZL14build_templateP19row_prebuilt_structP3THDP5TABLEj   1.24%  mysqld mysqld       [.] rec_init_offsets   1.11%  mysqld libjemalloc.so.1  [.] free   1.09%  mysqld mysqld       [.] rec_get_offsets_func   1.01%  mysqld libjemalloc.so.1  [.] malloc   0.96%  mysqld libc-2.12.so    [.] __strlen_sse42   0.93%  mysqld mysqld       [.] _ZN4JOIN8optimizeEv   0.91%  mysqld mysqld       [.] _ZL15get_hash_symbolPKcjb   0.88%  mysqld mysqld       [.] row_search_for_mysql   0.86%  mysqld [kernel.kallsyms]  [k] tcp_recvmsg

以下为perpare 

3.46%  mysqld libc-2.12.so    [.] __memcpy_ssse3   2.32%  mysqld mysqld       [.] cmp_dtuple_rec_with_match   2.14%  mysqld mysqld       [.] _ZL14build_templateP19row_prebuilt_structP3THDP5TABLEj   1.96%  mysqld mysqld       [.] buf_page_get_gen   1.66%  mysqld mysqld       [.] page_cur_search_with_match   1.54%  mysqld mysqld       [.] row_search_for_mysql   1.44%  mysqld mysqld       [.] btr_cur_search_to_nth_level   1.41%  mysqld libjemalloc.so.1  [.] free   1.35%  mysqld mysqld       [.] rec_init_offsets   1.32%  mysqld [kernel.kallsyms]  [k] kfree   1.14%  mysqld libjemalloc.so.1  [.] malloc   1.08%  mysqld [kernel.kallsyms]  [k] fget_light   1.05%  mysqld mysqld       [.] rec_get_offsets_func   0.99%  mysqld mysqld       [.] _ZN8Protocol24send_result_set_metadataEP4ListI4ItemEj   0.90%  mysqld mysqld       [.] sync_array_print_long_waits   0.87%  mysqld mysqld       [.] page_rec_get_n_recs_before   0.81%  mysqld mysqld       [.] _ZN4JOIN8optimizeEv   0.81%  mysqld libc-2.12.so    [.] __strlen_sse42   0.78%  mysqld mysqld       [.] _ZL20make_join_statisticsP4JOINP10TABLE_LISTP4ItemP16st_dynamic_array   0.72%  mysqld [kernel.kallsyms]  [k] tcp_recvmsg   0.63%  mysqld libpthread-2.12.so [.] __pthread_getspecific_internal   0.63%  mysqld [kernel.kallsyms]  [k] sk_run_filter   0.60%  mysqld mysqld       [.] _Z19find_field_in_tableP3THDP5TABLEPKcjbPj   0.60%  mysqld mysqld       [.] page_check_dir   0.57%  mysqld mysqld       [.] _Z16dispatch_command19enum_server_commandP3THDP

 对比可以发现 MYSQLparse lex_one_token在prepare时已优化掉了。

思考

  1 开启cachePrepStmts的问题,前面谈到每个连接都有一个缓存,是以sql为唯一标识的LRU cache. 在分表较多,大连接的情况下,可能会个应用服务器带来内存问题。这里有个前提是ibatis是默认使用prepare的。 在mybatis中,标签statementType可以指定某个sql是否是使用prepare.

statementType Any one of STATEMENT, PREPARED or CALLABLE. This causes MyBatis to use Statement, PreparedStatement orCallableStatement respectively. Default: PREPARED.

这样可以精确控制只对频率较高的sql使用prepare,从而控制使用prepare sql的个数,减少内存消耗。遗憾的是目前集团貌似大多使用的是ibatis 2.0版本,不支持statementType
标签。

    2 服务器端prepare cache是一个HASH MAP. Key为stmt->id,同时也是每个连接都维护一个。因此也有可能出现内存问题,待实际测试。如有必要需改造成Key为sql的全局cache,这样不同连接的相同prepare sql可以共享。 

   3 oracle prepare与mysql prepare的区别:

     mysql与oracle有一个重大区别是mysql没有oracle那样的执行计划缓存。前面我们讲到SQL执行过程包括以下阶段 词法分析->语法分析->语义分析->执行计划优化->执行。oracle的prepare实际上包括以下阶段:词法分析->语法分析->语义分析->执行计划优化,也就是说oracle的prepare做了更多的事情,execute只需要执行即可。因此,oracle的prepare比mysql更高效。

总结

以上就是MySQL中关于prepare原理的详解的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/389917.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月6日 15:14:42
下一篇 2025年11月6日 15:16:37

相关推荐

  • php后台有哪些功能

    PHP 是一种功能强大的后端编程语言,用于开发 Web 应用程序。其核心功能包括:1. 数据库连接和查询;2. 服务器端处理;3. 会话管理;4. 缓存;5. 安全措施;6. 文件操作;7. 电子邮件操作;8. 调度任务;9. RESTful API 开发;10. 模板引擎。 PHP 后端功能 PH…

    2025年12月12日
    000
  • 自学php需要哪些证书

    自学 PHP 不需要正式证书,但推荐以下认证:CompTIA PHP 认证(验证 PHP 基础)Zend PHP 工程师认证(证明对 PHP 的深入掌握)PHPMyAdmin 认证(验证管理 MySQL 数据库方面的技能)参加在线课程、构建项目组合,并参与社区可以提升你的技能并获得认可。获取 PHP…

    2025年12月12日
    000
  • php扩展包都有哪些

    PHP 扩展包是预编译的代码,用于扩展 PHP 功能:添加新功能提高现有功能性能常用扩展包包含:cURL、json、gd、mbstring、PDO、mysqli、openssl、zip、xml、sockets、pcntl、apcu、intl、imagick、redis、memcache、mongod…

    2025年12月12日
    000
  • php开发有哪些书籍

    推荐的 PHP 开发书籍包括:入门书籍:入门级指南,涵盖 PHP 和 MySQL 基础知识。进阶书籍:讲解设计模式、Laravel 和 Symfony 等高级 PHP 框架。特定主题书籍:深入讨论 PHP 中的数据结构、算法、安全性和性能优化。 PHP 开发书籍推荐 PHP 是一种广泛使用的服务器端…

    2025年12月12日
    000
  • php父类有哪些

    PHP 中的父类有:PDO、Exception、SplObjectStorage、JsonSerializable、DirectoryIterator、php_user_filter、IntlIterator、DateTime、mysqli、mysqli_result、mysqli_stmt、Spl…

    2025年12月12日
    000
  • php的软件有哪些

    PHP 的常用软件包括:Web 服务器:Apache HTTP Server、Nginx、IIS框架:Laravel、CodeIgniter、Symfony内容管理系统:WordPress、Joomla、Drupal电子商务平台:Magento、WooCommerce、Shopify数据库管理系统:…

    2025年12月12日
    000
  • 自学php需要准备哪些

    自学 PHP 需要一台能运行 PHP 的计算机、PHP 开发环境、文本编辑器或 IDE,以及对 HTML、CSS、Web 服务器和数据库的基本了解。学习资源包括官方文档、在线课程、书籍和社区论坛。通过编写代码、构建项目和参与开源项目进行练习至关重要,同时保持耐心和坚持。 自学 PHP 所需的准备 自…

    2025年12月12日
    000
  • php需要安装哪些组件

    PHP 组件安装指南:1. 预装 Apache/Nginx、PHP、MySQL/MariaDB;2. 安装扩展:GD 图像处理、PDO 数据库连接、JSON/XML 数据处理、Curl HTTP 请求、GMP 大整数计算;3. 安装方法:PECL 包管理器、发行版仓库、第三方仓库;4. 配置扩展:启…

    2025年12月12日
    000
  • php培训有哪些特色

    PHP 培训特色包括:1. 实践导向,注重动手实践,提供实验、案例和项目;2. 行业相关,符合当前技术趋势,由经验丰富的专业人士讲授;3. 个性化学习,针对不同技能水平定制培训计划;4. 认证支持,帮助学生为行业认证做准备;5. 职业服务,提供简历撰写和就业协助;6. 社区支持,建立导师和校友网络;…

    2025年12月12日
    000
  • php要下载哪些东西

    要安装 PHP,您需要下载 PHP 安装包、相关扩展包(可选)和 Web 服务器(可选)。首先,访问 PHP 官方网站下载最新的 PHP 安装包。根据需要选择相关扩展包,例如 MySQL 扩展。如果您打算与 Web 服务器(例如 Apache 或 Nginx)一起使用 PHP,请下载并安装 Web …

    2025年12月12日
    000
  • php的特性有哪些

    PHP 作为服务器端脚本语言具备以下特性:开源和免费,无需许可费用;跨平台,可在多种操作系统上运行;面向对象,支持建立类和对象;拥有广泛的标准库,简化操作;支持多种数据库管理系统;适用于 Web 开发,提供动态网站功能;可通过扩展模块扩展功能;拥有庞大活跃的社区,提供支持。 PHP 的特性 PHP …

    2025年12月12日
    100
  • php扩展有哪些功能

    PHP 扩展是用于扩展 PHP 语言功能的软件模块,它们提供了多种功能,包括数据库支持、图像处理、文件处理、网络连接、数据加密、内存缓存、队列处理、代码编译、自定义函数和高级特性。PHP 扩展的使用好处包括扩展 PHP 功能、提高性能、增加安全、提高开发效率和获得社区支持。 PHP 扩展功能 PHP…

    2025年12月12日
    000
  • php语言有哪些优点

    PHP 语言的优点包括:易于学习和使用、跨平台兼容、强大的数据库支持、内容管理系统集成功能、社区支持、可扩展性、性能优化以及开源和免费。 PHP 语言的优点 PHP 是一种强大且流行的通用编程语言,因其卓越的特性而广受认可: 1. 易于学习和使用 PHP 采用 C 语言的语法,使其易于学习和使用。它…

    2025年12月12日
    000
  • php要学哪些资料

    学习 PHP 需要以下资料:入门教程(如 PHP 官方教程和 W3Schools 课程)、参考指南(如 PHP 函数和类参考)、书籍、文档、在线社区、其他资源(如 PHP Storm IDE、Xdebug 调试器和 PHPDoc)。建议从入门教程开始,然后深入了解参考指南、书籍和在线课程。加入在线社…

    2025年12月12日
    000
  • php 常用技术有哪些

    摘要: PHP 中常用的技术包括:面向对象编程 (OOP):提高代码可维护性和松耦合性。Composer:PHP 包管理工具,简化第三方库安装和更新。框架:提供工具和库简化 Web 应用程序开发。数据库技术:支持 MySQL、PostgreSQL 和 MariaDB,通过 MySQLi 或 PDO …

    2025年12月12日
    000
  • 资深php需要哪些技能

    精通 PHP 语言、框架、数据库管理、前端技术、后端架构、测试和部署技术以及算法、数据结构基础等技能。这些技能使资深 PHP 开发人员能够构建大型、复杂的 PHP 应用程序并确保其性能和可靠性。 资深 PHP 开发人员必备技能 一名资深 PHP 开发人员需要掌握全面的技能,包括: 核心 PHP 语言…

    2025年12月12日
    000
  • php还有哪些开发环境

    PHP 开发环境包括:LAMP 堆栈:Linux、Apache、MySQL 和 PHP。PHPStorm:高级商业 IDE,适用于大型项目。Eclipse for PHP:免费的开源 IDE,提供强大的工具集。NetBeans:免费的开源 IDE,提供广泛的 Web 开发功能。Sublime Tex…

    2025年12月12日
    000
  • php提供以下哪些函数

    PHP 提供多种函数,可处理字符串、数组、文件和数据库操作。字符串函数包括 strlen()、strtoupper()、str_replace() 和 preg_match()。数组函数包含 array_push()、array_pop()、array_shift()、in_array() 和 ar…

    2025年12月12日
    000
  • php该看哪些书

    初学者可从《PHP 初学者指南》入手,中级开发者可进阶至《深入理解 PHP 内核》或《PHP 实用教程》,而 Web 开发者则推荐《PHP 和 MySQL Web 开发》。高级开发者可根据需求选择《PHP 高级编程》或其他高级书籍,如《PHP7 高性能编程》和《PHP 设计模式》。 学习 PHP 必…

    2025年12月12日
    000
  • php语言有哪些特性

    PHP 主要特性有:面向对象编程;解释执行;跨平台性;开源且免费;广泛的库支持;简单易学;数据库集成;高性能;社区支持。 PHP 语言的特性 PHP(超文本预处理器)是一种广泛使用的服务器端脚本语言,用于开发动态和交互式 Web 应用。它具有以下主要特性: 1. 面向对象编程PHP 支持面向对象编程…

    2025年12月12日
    100

发表回复

登录后才能评论
关注微信