Deprecated: imwpcache\f884414bce24ee67f\f73723ec7b1919fa5::__construct(): Implicitly marking parameter $YECBGYFECGEAFWHA as nullable is deprecated, the explicit nullable type must be used instead in /www/wwwroot/www.chuangxiangniao.com/wp-content/plugins/imwpcache-dist/build/f884414bce24ee67ff73723ec7b1919fa5.php on line 2

Deprecated: imwpcache\f884414bce24ee67f\f73723ec7b1919fa5::__construct(): Implicitly marking parameter $BBWFDDBHHYHDXXAB as nullable is deprecated, the explicit nullable type must be used instead in /www/wwwroot/www.chuangxiangniao.com/wp-content/plugins/imwpcache-dist/build/f884414bce24ee67ff73723ec7b1919fa5.php on line 2
几种MySQL大量数据插入或修改的方法比较_创想鸟

几种MySQL大量数据插入或修改的方法比较

不管是日常业务数据处理中,还是数据库的导入导出,都可能遇到需要处理大量数据的插入或修改。插入或修改的方式和数据库引擎都会对插入速度造成影响,这篇文章旨在从理论和实践上对各种方法进行分析和比较,方便以后应用中插入方法的选择。

插入分析

MySQL中插入一个记录需要的时间由下列因素组成,其中的数字表示大约比例:

连接:(3)
发送查询给服务器:(2)
分析查询:(2)
插入记录:(1x记录大小)
插入索引:(1x索引)
关闭:(1)

如果我们每插入一条都执行一个SQL语句,那么我们需要执行除了连接和关闭之外的所有步骤N次,这样是非常耗时的,优化的方式有一下几种:

(1)在每个insert语句中写入多行,批量插入

(2)将所有查询语句写入事务中

(3)利用Load Data导入数据

每种方式执行的性能如下。

Innodb引擎

InnoDB 给 MySQL 提供了具有事务(commit)、回滚(rollback)和崩溃修复能力(crash recovery capabilities)的事务安全(transaction-safe (ACID compliant))型表。InnoDB 提供了行锁(locking on row level)以及外键约束(FOREIGN KEY constraints)。

InnoDB 的设计目标是处理大容量数据库系统,它的 CPU 利用率是其它基于磁盘的关系数据库引擎所不能比的。在技术上,InnoDB 是一套放在 MySQL 后台的完整数据库系统,InnoDB 在主内存中建立其专用的缓冲池用于高速缓冲数据和索引。

测试环境

Macbook Air 12mid apache2.2.26 php5.5.10 mysql5.6.16

总数100W条数据

图改改 图改改

在线修改图片文字

图改改 455 查看详情 图改改

插入完后数据库大小38.6MB(无索引),46.8(有索引)

无索引单条插入 总耗时:229s 峰值内存:246KB
有索引单条插入 总耗时:242s 峰值内存:246KB
无索引批量插入 总耗时:10s 峰值内存:8643KB
有索引批量插入 总耗时:16s 峰值内存:8643KB
无索引事务插入 总耗时:78s 峰值内存:246KB
有索引事务插入 总耗时:82s 峰值内存:246KB
无索引Load Data插入 总耗时:12s 峰值内存:246KB
有索引Load Data插入 总耗时:11s 峰值内存:246KB

MyIASM引擎

MyISAM 是MySQL缺省存贮引擎。设计简单,支持全文搜索。

测试环境

Macbook Air 12mid apache2.2.26 php5.5.10 mysql5.6.16

总数100W条数据

插入完后数据库大小19.1MB(无索引),38.6(有索引)

无索引单条插入 总耗时:82s 峰值内存:246KB
有索引单条插入 总耗时:86s 峰值内存:246KB
无索引批量插入 总耗时:3s 峰值内存:8643KB
有索引批量插入 总耗时:7s 峰值内存:8643KB
无索引Load Data插入 总耗时:6s 峰值内存:246KB
有索引Load Data插入 总耗时:8s 峰值内存:246KB

总结

我测试的数据量不是很大,不过可以大概了解这几种插入方式对于速度的影响,最快的必然是Load Data方式。这种方式相对比较麻烦,因为涉及到了写文件,但是可以兼顾内存和速度。

测试代码

 true));//删除上次的插入数据$db->query('delete from `test`');//开始计时$start_time = time();$sum = 1000000;// 测试选项$num = 1;if ($num == 1){    // 单条插入    for($i = 0; $i query("insert into `test` (`id`,`name`) values ($i,'tsetssdf')");    }} elseif ($num == 2) {    // 批量插入,为了不超过max_allowed_packet,选择每10万插入一次    for ($i = 0; $i query("insert into `test` (`id`, `name`) values $values");            } else {                $values .= ",($i, 'testtest')";                $db->query("insert into `test` (`id`, `name`) values $values");            }            break;        }        if ($i%100000 == 0) { //平常只有在这个情况下才插入            if ($i == 0){                $values = "($i, 'testtest')";            } else {                $db->query("insert into `test` (`id`, `name`) values $values");                $values = "($i, 'testtest')";            }        } else {            $values .= ",($i, 'testtest')";            }    }} elseif ($num == 3) {    // 事务插入    $db->beginTransaction();     for($i = 0; $i query("insert into `test` (`id`,`name`) values ($i,'tsetssdf')");    }    $db->commit();} elseif ($num == 4) {    // 文件load data    $filename = dirname(__FILE__).'/test.sql';    $fp = fopen($filename, 'w');    for($i = 0; $i exec("load data infile '$filename' into table test fields terminated by ','");}$end_time = time();echo "总耗时", ($end_time - $start_time), "秒n";echo "峰值内存", round(memory_get_peak_usage()/1000), "KBn";

这里简单写一下 SQL 语句插入和修改语句的拼接形式:

(1)insert 语句拼接:

INSERT INTO user (id, name) VALUES (1, ‘张三’);
INSERT INTO user (id, name) VALUES (2, ‘李四’);
INSERT INTO user (id, name) VALUES (3, ‘王五’);

可拼接为:

INSERT INTO user (id, name) VALUES 
(1, ‘张三’), 
(2, ‘李四’), 
(3, ‘王五’);

(2)update 语句拼接:

update user set name=’张三’ where id=’1′;
update user set name=’李四’ where id=’2′;
update user set name=’王五’ where id=’3′;

可拼接为:

update user 
set name = CASE id 
when 1 then ‘张三’ 
when 2 then ‘李四’ 
when 3 then ‘王五’ 
end 
where id IN (1,2,3);

以上就是几种MySQL大量数据插入或修改的方法比较,希望对大家有帮助。

相关教程:

mysql大量数据插入探讨(量变引起质变)_MySQL

求解:数据插入不到数据库中。解决方案

php没法将数据插入mysql

以上就是几种MySQL大量数据插入或修改的方法比较的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/388494.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
小米路由器如何用ssh工具
上一篇 2025年11月6日 14:41:45
Win11电脑软件打开闪退怎么修复?Win11个别软件一打开就闪退解决
下一篇 2025年11月6日 14:41:56

相关推荐

  • mysql是什么类型的数据库?

    mysql是什么类型的数据库?mysql是什么类型的数据库?mysql是什么类型的数据库?mysql是什么类型的数据库?

    MySQL是一种开源、跨平台的关系型数据库管理系统,以其速度、可靠性、易用性、高性能、可扩展性和兼容性而著称。它广泛应用于Web开发、数据仓库、电子商务、金融服务、医疗保健等领域。 MySQL:关系型数据库管理系统 MySQL 是一种关系型数据库管理系统(RDBMS),用于创建、管理和查询数据库。它…

    2026年9月24日 • 用户投稿
    800
  • mysql是什么结构的数据库

    mysql是什么结构的数据库mysql是什么结构的数据库mysql是什么结构的数据库mysql是什么结构的数据库

    MySQL数据结构基于关系模型,由表组成,其中行代表记录,列代表字段。表由主键唯一标识,外键连接不同表中的数据。MySQL支持多种数据类型,索引提高查询性能。外键在表之间建立关系,创建复杂的数据结构。 MySQL 数据库结构 MySQL 是一种关系型数据库管理系统 (RDBMS),其数据结构基于关系…

    2026年9月24日 • 用户投稿
    900
  • mysql用的什么数据结构

    mysql用的什么数据结构mysql用的什么数据结构mysql用的什么数据结构mysql用的什么数据结构

    MySQL 使用行和列的数据结构来组织数据,并提供存储引擎(如 InnoDB,使用 B+ 树索引)来高效地查找数据。B+ 树索引、散列索引、位图索引和全文索引等索引结构根据数据类型和查询类型进行优化,以提高数据检索速度。 MySQL 使用的数据结构 MySQL 是一种关系型数据库管理系统,它使用以下…

    2026年9月24日 • 用户投稿
    200
  • mysql命令行工具是什么

    mysql命令行工具是什么mysql命令行工具是什么mysql命令行工具是什么mysql命令行工具是什么

    MySQL命令行工具是一款命令解释器,用于管理MySQL数据库服务器。其功能包括连接到服务器、创建/删除数据库、表和数据,以及查询、管理用户和监控性能。使用方法:打开命令提示符,输入”mysql”命令,再输入用户名和密码即可连接。常用的命令有:创建数据库(CREATE DAT…

    2026年9月24日 • 用户投稿
    000
  • mysql数据恢复主要采用什么命令执行

    mysql数据恢复主要采用什么命令执行mysql数据恢复主要采用什么命令执行mysql数据恢复主要采用什么命令执行mysql数据恢复主要采用什么命令执行

    MySQL 数据恢复命令主要有:mysqldump:导出数据库备份。mysql:导入 SQL 备份文件。pt-table-checksum:验证并修复表完整性。MyISAMchk:修复 MyISAM 表。InnoDB 技术:自动恢复已提交事务,或手动通过 innobackupex 工具恢复。 MyS…

    2026年9月24日 • 用户投稿
    100
  • mysql数据库使用什么语言

    mysql数据库使用什么语言mysql数据库使用什么语言mysql数据库使用什么语言mysql数据库使用什么语言

    MySQL 数据库使用 Structured Query Language (SQL),一种用于与关系型数据库交互的编程语言。SQL 由四种类型的语句组成:数据定义语言 (DDL):创建/修改数据库结构数据操纵语言 (DML):插入/更新/删除/检索数据数据控制语言 (DCL):授予/撤销访问权限事…

    2026年9月24日 • 用户投稿
    000
  • mysql怎么读取数据

    mysql怎么读取数据mysql怎么读取数据mysql怎么读取数据mysql怎么读取数据

    如何从 MySQL 中读取数据?MySQL 提供了多种方法来读取数据,最常用的方法是使用 SELECT 语句。其他方法还包括游标、存储过程和触发器。 如何从 MySQL 中读取数据 MySQL 提供了多种方法来读取数据,最常用的方法是使用 SELECT 语句。 SELECT 语句 语法: SELEC…

    2026年9月24日 • 用户投稿
    200
  • mysql数据库中的自增列如何使用

    自增列是MySQL中用于自动产生唯一数值的整数列,通常作为主键使用。通过AUTO_INCREMENT属性,插入数据时若未指定值,系统会自动分配比当前最大值大1的数值,确保每条记录拥有唯一标识,简化插入操作。创建表时可定义自增列,如:CREATE TABLE users (id INT AUTO_IN…

    2026年9月24日
    100
  • mysql和sql server区别大吗

    mysql和sql server区别大吗mysql和sql server区别大吗mysql和sql server区别大吗mysql和sql server区别大吗

    MySQL和SQL Server的区别在于:1.许可证:MySQL开源免费,SQL Server需要付费许可证;2.平台:MySQL跨平台,SQL Server主要针对Windows;3.数据类型:MySQL提供多种数据类型,SQL Server提供更全面的数据类型;4.查询引擎:MySQL使用In…

    2026年9月24日 • 用户投稿
    100
  • mysql和sql server一样吗

    mysql和sql server一样吗mysql和sql server一样吗mysql和sql server一样吗mysql和sql server一样吗

    否,MySQL 和 SQL Server 并非相同。它们是两种不同的关系型数据库管理系统(RDBMS),尽管共享 SQL 兼容性和关系数据模型,但存在以下关键差异:所有权:MySQL 为开源,SQL Server 为专有。许可:MySQL 为免费,SQL Server 为商业许可。架构:MySQL …

    2026年9月24日 • 用户投稿
    200
  • mysql和sql server差别大吗

    mysql和sql server差别大吗mysql和sql server差别大吗mysql和sql server差别大吗mysql和sql server差别大吗

    是的,MySQL 和 SQL Server 之间存在显著差异。功能差异包括存储过程、触发器和全文搜索能力。特性差异包括高可用性、可扩展性、并发性。许可差异在于 MySQL 是开源和免费的,而 SQL Server 是专有软件。支持差异体现在 SQL Server 提供更全面的技术支持,而 MySQL…

    2026年9月24日 • 用户投稿
    100
  • 如何断开mysql数据库连接

    如何断开mysql数据库连接如何断开mysql数据库连接如何断开mysql数据库连接如何断开mysql数据库连接

    为了断开 MySQL 数据库连接,需要按以下步骤进行:创建连接对象获取连接游标关闭游标关闭连接 如何断开 MySQL 数据库连接 要断开 MySQL 数据库连接,可以使用以下步骤: 1. 创建连接对象 首先,使用 connect() 函数创建到数据库的连接对象,该函数需要一个数据库连接参数字符串作为…

    2026年9月24日 • 用户投稿
    200
  • mysql的索引有哪些类型

    mysql的索引有哪些类型mysql的索引有哪些类型mysql的索引有哪些类型mysql的索引有哪些类型

    MySQL索引可快速查找数据,通过在键值对中存储列值和数据指针实现。常见的索引类型有:B-Tree索引:支持范围查询,数据量大时性能佳。哈希索引:完全匹配查询快,但更新数据开销大。全文索引:索引文本数据,支持全文搜索。空间索引:索引地理空间数据,支持空间查询。并发B-Tree索引:高并发环境下性能更…

    2026年9月24日 • 用户投稿
    100
  • mysql下载初始化数据库失败怎么办

    mysql下载初始化数据库失败怎么办mysql下载初始化数据库失败怎么办mysql下载初始化数据库失败怎么办mysql下载初始化数据库失败怎么办

    初始化 MySQL 数据库失败可能是由于以下原因:服务未启动权限不足数据库已存在配置问题磁盘空间不足数据库引擎错误其他未知原因(可查看日志文件) MySQL 下载初始化数据库失败的解决方案 初始化 MySQL 数据库时遇到失败的情况,可能是以下几个原因导致的: 1. MySQL 服务未启动 确保 M…

    2026年9月24日 • 用户投稿
    200
  • mysql下载初始化数据库失败怎么回事

    mysql下载初始化数据库失败怎么回事mysql下载初始化数据库失败怎么回事mysql下载初始化数据库失败怎么回事mysql下载初始化数据库失败怎么回事

    MySQL 初始化数据库失败的原因包括:1. 系统权限不足;2. 安装文件损坏;3. 防火墙或安全软件阻止连接;4. 数据库端口冲突;5. 磁盘空间不足;6. 操作系统版本不兼容;7. 环境变量问题;8. 损坏的配置文件;9. 之前的 MySQL 安装残留;10. 其他错误。请检查这些原因并采取相应…

    2026年9月24日 • 用户投稿
    100
  • 袋鼠数据库工具 8.90.1 版已上线

    袋鼠数据库工具 8.90.1 版已上线袋鼠数据库工具 8.90.1 版已上线袋鼠数据库工具 8.90.1 版已上线袋鼠数据库工具 8.90.1 版已上线

    袋鼠数据库工具 是一款由 ai 驱动的主流数据库系统客户端,支持多种数据库类型,包括 mariadb、mongodb、mysql、oracle、postgresql、redis、sqlite、sqlserver 等,具备建表、数据查询、模型设计、结构同步、数据导入导出等丰富功能。兼容 windows…

    2026年9月24日 • 用户投稿
    100
  • Java程序Ubuntu上如何备份

    在ubuntu上备份java程序,你可以遵循以下步骤: 确定备份位置:首先,你需要确定一个安全的位置来存储备份文件。这可以是一个外部硬盘、网络驱动器或其他任何可靠的存储设备。 打包Java项目:你可以使用tar命令将整个Java项目打包成一个压缩文件。例如,如果你的项目位于/home/usernam…

    2026年9月24日
    100
  • mysql下载初始化数据库失败怎么解决

    mysql下载初始化数据库失败怎么解决mysql下载初始化数据库失败怎么解决mysql下载初始化数据库失败怎么解决mysql下载初始化数据库失败怎么解决

    MySQL 初始化数据库失败可通过以下步骤解决:1. 检查安装程序版本;2. 确保管理员权限;3. 关闭其他应用程序;4. 重新配置 MySQL 配置文件(取消注释 innodb_flush_log_at_trx_commit 并设置 innodb_file_per_table、innodb_log…

    2026年9月24日 • 用户投稿
    100
  • mysql数据库怎么实现

    mysql数据库怎么实现mysql数据库怎么实现mysql数据库怎么实现mysql数据库怎么实现

    MySQL数据库实现步骤:安装MySQL服务器;创建数据库;创建用户并授予权限;连接到数据库;创建表;插入数据;查询数据;修改数据;删除数据;备份数据库。 MySQL数据库实现 如何实现MySQL数据库? 实现MySQL数据库涉及以下步骤: 1. 安装MySQL服务器 从MySQL官方网站下载并安装…

    2026年9月24日 • 用户投稿
    000
  • mysql数据库的完整步骤有哪些

    mysql数据库的完整步骤有哪些mysql数据库的完整步骤有哪些mysql数据库的完整步骤有哪些mysql数据库的完整步骤有哪些

    创建 MySQL 数据库步骤:安装 MySQL、创建数据库、创建表、插入数据、检索数据、更新数据、删除数据,维护数据库。具体步骤:安装 MySQL使用语法 CREATE DATABASE 创建数据库使用语法 CREATE TABLE 创建表使用语法 INSERT INTO 插入数据使用语法 SELE…

    2026年9月24日 • 用户投稿
    200

发表回复

登录后才能评论
关注微信